西晋后期，匈奴、鲜卑等北胡进攻中原，王室贵胄随皇帝向南方大举迁徙，最终在长江以南建立政权，史称东晋。百姓为躲避战乱和野蛮的胡人，近七成的中原百姓也都迁往江南。而对一些无法迁徙的生活在北方的普通百姓来说，即将面对的就是胡人的屠杀。
西晋末年，胡人的队伍开始不断壮大，由匈奴、鲜卑、羯、羌及氐为主的五胡十六国开始向中原进攻侵略。这些由北方游牧民族组成的草原莽夫，除了抢夺财宝食物之外，还对汉人大肆屠杀。于是在这种野蛮的统治下，出现了杀胡令。那么出现杀胡令的原因究竟是什么呢?胡人统领石勒嗜杀成性，他的继承人石虎更是以杀人为乐。相传每攻下一座城池，石虎都会命令手下屠城，甚至会砍下美女的头当做工艺品摆设欣赏。在这种野蛮的统治下，中原汉族人口数量仅剩四五百万。正是在这种背景下，杀胡令应运而生。那么杀胡令的背景具体是怎样的呢?
西晋后期，汉人面临着亡种的威胁，残留在北方的汉族人民决定奋起反抗。然而汉人的军队和人数都比不过胡人，胡人并不忌惮，依旧肆意屠杀汉族百姓。就在水深火热之中，陈午领导的“乞活军”奋起抗击胡人，成为当时抗击胡人的有效力量。在乞活军中，冉氏家族又立下汗马功劳。可惜好景不长，冉瞻被胡军捉到，继而得到赏识，成为胡人部落之间的一员能将，抗胡将军陈午也被杀害。
冉瞻死后，儿子冉闵虽然为胡人之间的吞并立下军功，声名远扬，但是他无法忍受胡人屠杀汉人，残暴无理的一面，于是冉闵决定重新回到中原，尽心竭力地帮助汉人消灭胡人，以完成陈午当年击退胡人，保全汉人的遗愿。同时，为了激发汉族人的信心，完成击退胡人的大事，冉闵颁布著名的“杀胡令”。
杀胡令出现的很大因素是因为胡人的凶狠残暴逼迫汉人反抗。如果没有这样的杀胡令，可能就没有以后中国北方汉人百姓的安居乐业。被逼入绝境的汉人在冉闵的带领下决定奋起反抗，同时冉闵对外颁布的杀胡令不但成功团结汉人激起民愤，更是冉闵攻败暴胡的一项重要政策。杀胡令共有三条，并非同时颁布，这更让百姓群情激奋，打得胡人措手不及。
第一道杀胡令是冉闵软禁后赵皇帝石鉴后颁布的，原文是“内外六夷，敢称兵器者斩之”，翻译过来就是：所有敢拿兵器的胡人都要杀。这到命令让积压这多年仇恨的汉人开始拿起武器，联合反抗，胡人则纷纷逃离城池。面对胡人向北逃难的局面，冉闵紧接着颁布了第二道杀胡令：与官同心者留，不同心者听任各自离开。可是怎样算与官同心呢?官家到底是什么心思呢?虽然百姓不甚明了，但是羯族外逃的部队正与追杀胡人的汉人在城门口相遇，汉人将羯族围困城中。没等胡人撤退，冉闵颁布了第三道命令：所有汉人，凡是斩一个胡人，凭人头便可加官晋爵。此令一下，汉人好像得到赦免一样开始理直气壮地屠杀胡人，为汉人报仇。一日之内，数以万计的胡人被砍头，尸横遍野，血流成河。
数百万氐、羌、胡、蛮族人面对汉人疯狂的血腥报复，无能为力，只好向北迁徙，重回草原。在胡人向北迁徙道路上，时常能看到病死、饿死的胡人。当年进攻中原的一众胡人，有八成都死在中原，仅两成回到草原，可谓元气大伤。