据《元史》载:“赡思字德之,其先大食国人。国既内附,大父鲁坤,乃东迁丰州”。所谓“国既内附”,指当时他们已隶属于蒙古汗国。故赡思家族系色目人穆斯林。延佑初(公元1314年),“诏以科等取士,有劝其就试者,赡思笑而不应”(《元史.儒学列传二.赡思传》,土默特旗文化馆编辑,1981年印)。他即可应试,应至“弱冠”之年,如以每代隔二十年计,上推60年,即公元1274年(至元二十一年),他大父(祖父)鲁坤已迁居内蒙古呼和浩特(即丰州)。与鲁坤家族前后迁来的不见经传的一般人一定还有。可见蒙古汗国至元代初叶,丰州城内已出现了回回人的第一个聚落,即回族定居呼和浩特的开始。因此,马可波罗至“天德城”时,才可能记述该城“居民中有佛教徒、穆斯林和基督教徒”。
现居内蒙古回族大多是明清时期及其以后从内地迁徙来的。《土默特沿革》所引《明史纪事本末》:“我(按俺答)百户张彦文,游击家丁刘天祺,边民马西川等二十八人悉往从之”。荣祥先生推断马西川是回民,足可凭信(《土默特沿革》)。白塔题记中有“曲口(按:恐系曲阿)在城回回一人宋吉到此提笔口(记)耳”(李逸友:《呼和浩特万部华严经塔的金元明各代题记》,《文物》)。这是明代人的题记。“曲阿”是江苏丹阳的古称,是东汉末扬州刺史的治所。扬州是唐宋以来阿拉伯、波斯商人的聚居地。而明代南京、扬州一带也曾是伊斯兰文化的中心。这则题记可能是扬州一代朝觐者宋吉在旅途中留下的。从而也说明内蒙古地区与江南穆斯林的交往开始很早。清以后,内地回民成批迁徙到内蒙。回族迁徙内蒙古的原因是多样的:东部区的回族原籍山东、河北一带。他们迫于生计而出关到海拉尔、大兴安岭一带谋生。而西部区的回民大多是从陕、甘、新迁来的,有的因受左宗棠借口“要图百十年之安”,而强迫回族大迁徙;有的则因贩卖牛马而从陕西大荔等地前来呼、包一带落户;有的则因护送香妃进京,清帝乾隆赐给呼和浩特八拜村“一马之地”而定居下来。到清末民初,交通发达的直、鲁、豫等省回民接踵而来,回民从不定居到定居,渐渐成为内蒙古民族大家庭中的重要一员。