在我国的唐宋时期，远在阿拉伯、波斯等地的商人不远千里翻山越岭来到中国经商，留居在广州、泉州一带，他们很快地适应了这里的水土、习俗，娶妻生子，留了下来。当时称这些外来的西域人为“胡客”或“胡番”，他们大多经营“香药”（或称“海药”）及香料、犀角、象牙、珠宝等贸易。南宋时期，这些人在广州、泉州、扬州、杭州、宁波及长安、开封等地寄居下来，并修建了规模宏大的礼拜寺。最旺盛时，人数达到几十万之多，他们之中的不少人由原来很不固定的“番客”逐渐变成定居的侨商，也有一些人做了官，由侨民变成中国公民。成吉思汗率兵西征，信仰******教的各民族被蒙古人征服，并被强行大批迁徙到东方，他们中有阿拉伯人，也有波斯人、突厥人；有工匠，也有普通百姓。直到元朝统辖东南各省后，在元朝官方文书上才称“胡客”为“回回”，和当时随蒙古人东来的西域、中亚人一起都被算作中国人了。这是回族的重要来源。
由于通婚和皈依******教，回族当中融进了汉、蒙古、维吾尔等族的成分。
自唐朝开始，阿拉伯（大食）商人或波斯商人“往往散行陕西诸路，久留不归”，其中也有不少人留居河州。
回族已故学者薛文波写了一首概括回族渊源的诗：
清真老华寺
早期清真寺绘画
大食波斯妫水浒，辞乡辗转来东土；
初为蕃客后编民，丝绸路上添花雨。
唐朝安史之乱中，唐明皇曾向大食求援，大食及西域诸国派兵到陕、甘等地，帮助大唐收复失地。
平息了安史之乱之后，唐肃宗允许大食国援唐官兵留居长安，在当地娶妻生子，添置地产，修建礼拜寺。其中有些官员后来又迁居到陕、甘各地。据称毕家场门宦创始人马宗生的祖先是唐时落居长安大学习巷的波斯人，他们的后代则迁居到古城河州。
到了宋代，因宋、辽、金、夏长期对峙，战乱频繁，在丝路沿途及关中地带滞留的外来******很多。南宋后期，“一时******如潮而至”，遍及全国。当西夏控制丝绸之路北路后，河湟古道空前繁华，活跃在这条古道上的******商人“久留不归”。
元代的回回已有“大分散，小集中”的情形，河州属于相对集中之地。这是由于蒙古统治者占据河州后，把此地作为重要的屯戍地之一，将西征时带来的大批西域各地的工匠、军士等留居河州以“屯垦牧养”，安家落户，经营牧业生产，以后又下诏令曰：“随处入社与编民等”。
在河州，回回人长期与汉人相处，受汉文化的熏陶，他们开始学汉语，读儒学经典，并仿效汉人的姓氏、名号定姓取名。同时他们又笃信******教，受教门的约束，形成独立的婚嫁、丧葬、服饰、生活饮食等风俗习惯，且世代传承，于明初前后形成了一个新的民族——回族。
作为中华大地上各民族长期融合而形成的一个全新民族，回族在甘肃以河州人数居多。据明嘉靖本《河州志》记载，当时在今临夏有“回民务劳”及“禹王庙在积石关……岁久倾圮，回回耕其宇下”之说。后来的《续修·导河志》也记载：“回民自有明以后，日渐繁盛。”河州有“番客百户所”，回族人“惟河州为多，其种类亦最强。”特别是河州的八坊，“为回民商务聚集之地”。但由于河州回民多居住在穷乡僻壤、干旱或阴湿山区，从事农业不足以养家糊口，于是他们中的一部分有的半农半商，有的兼营手工业或养殖业，住在城郊的则多半从事牛羊屠宰、皮革加工、饮食小吃等小手工业，也有的人当“脚户”搞长短途贩运，因而使河州逐渐成为西部最大的皮毛、茶叶集散地，商贸经济十分繁荣，为促进河州的经济发展起到了重要的推动作用。
在漫长而艰难的历史岁月中，回族用鲜血和生命谱写了壮丽的历史篇章。著名回族诗人高深在他的诗中这样深情地讴歌道：
我的民族啊，
走过长满荆棘的道路。
苦难留下深深的脚印，
长出机敏智慧的大树。
相信了，
远处有一个美丽的童话时，
她终于长成了大人。