元朝末年，朝廷连年对外用兵，对内实行民族压迫。受蒙古贵族及封建地主对农民残酷剥削压迫，阶级矛盾与民族矛盾日益激化，加之黄淮流域水灾不断，饥荒频繁，民不聊生。各地的农民纷纷揭竿而起，反抗元朝的暴政。战争连绵不断，加上各种灾害严重破坏了社会经济。到了明朝初年，中国许多地方，特别是江淮以北大部分地区呈现着田地荒芜、人烟断绝的凄凉景象。
而这时候的山西，却是另外一种景象，相对显得安定，风调雨顺，连年丰收，较之于相邻诸省，山西经济繁荣，人丁兴旺。再者，外省也有大量难民流入山西，致使山西成了人口稠密的地区。
明朝推翻了元朝之后，为了巩固新的政权，发展经济，增强国力。朱元璋根据当时国家的现实状况作出了一个大的决策——“移民屯田，开垦荒地”。

《续安阳县志》载：“按 民籍，洪武初，自山西洪洞县迁来者颇多。”境内大部土著居民世代相传：祖居山西，洪武年间从洪洞县大槐树下迁来。据传说元末统治者横征暴敛，民不聊生，中原一带群雄割据，战乱频繁，加之黄河决口，连年灾荒，造成“生民百遗一，千里无鸡鸣”的惨景。朱元璋创建明朝后，曾数次从山西一带向中原地区移民，恢复农业生产。由于洪洞县位于晋南，靠近中原，便于迁徙，故多次组织当地“有丁无田”或“丁多田少”的农户迁籍。传说，当时负责选民的后军都督佥事李恪，采用多种方法，诱迁不愿意开故土的农民。有次扬言：凡自愿迁籍的农民可到广济寺内办理手续，凡不愿迁籍者可到寺左侧的大槐树下等候裁定。此言一经传开，应迁农户多数挤至大槐树下。结果，凡到树下的农户，全部被迁徙。据说，当时大槐树上有个鸦巢，被迁农民望着鸦巢，触景生情，纷纷说：老鸦尚有个窝，咱到上才有安居之日啊!由此，广济寺侧的大槐树，便成了先人忍别故里的标志。 洪洞迁民的传说，已历600余年。县西水治镇一带群众，传留下来的一些姓氏、族谱，也多把大槐树下迁来的先祖为其始祖，另传，迁民时，被迁农民多把自己初生子女的双脚小趾咬裂，以示纪念。因而，至今境内多数居民的两脚小趾甲盖仍是两瓣。

洪洞大槐树下的移民，当初直接迁入地是豫、鲁、冀、京、皖、苏、鄂、陕、甘、宁、晋等省市。然而数百年间，峰回路转，这些地方的移民后裔，又辗转迁到云南、四川、贵州、新疆、东北、港台等地。解放前的“下南洋”，改革开放以来的出国留学、探亲、定居，到现在，大槐树的后人已经是遍布神州大地、天涯海角。