早在原始社会，巴彦淖尔市境内阴山以北地区就有人类居住，使用的石器多为刮削器，过着以狩猎为主的生活。 商周至汉 夏商西周至春秋，鬼方、猃狁等民族游牧于此。 战国时，赵国云中郡管辖达到阴山南，林胡、楼烦等民族游牧于阴山北。 秦时，秦九原郡范围达到阴山南，匈奴民族活动在阴山以北地区。西汉武帝元朔二年（前127年）设五原、朔方二郡。朔方郡领县十（朔方、广牧、沃野、临河、临戎、三封、窳浑、呼遒、渠搜、大城、修都），其中临河县、沃野县在今临河区境内，临戎、三封、窳浑县在今磴口县境内。 汉武帝下诏募民屯边，始有一定规模的从事耕种的农业。元始二年（2年）朔方郡有户34338户，人口136628人。五原郡领县十六（九原、临戎、河阴、曼柏、武都、南舆、固阳、西安阳、河目、宜梁、成宜、广牧），其中河目、西安阳、宜梁、成宜等县在今乌拉特前旗境内；广牧县在今五原县境内。 东汉初匈奴南单于分部众屯此，东汉末年朔方郡、五原郡废。 东汉末至十六国，南匈奴等民族游牧于此。北魏，怀朔、沃野二镇在境内有建制。唐，初属丰州辖境，后为中、西受降城境域。[1]