公元前221年，秦王朝进行了一件具有划时代意义的事情就：将中央集权的行政新体制扩大到了华夏九州，这件事情对后世的影响极为深刻。秦朝采用郡县制并非一帆风顺，朝堂之上曾发生了剧烈的争论。以丞相王绾为代表的多数派建议恢复周朝的分封制度，这样可以让宗室子弟、功勋大臣负责地方治理，拱卫中央政府。
但是廷尉李斯极力反对分封制度，他认为周朝的分封制度是一个政治灾难，等到宗室子弟和功勋大臣与中央关系疏远，这些人就会利用自己的封地与中央朝廷对抗，到时候天下则会将春秋战国的情况再度重演一遍，天子将会成为摆设，所以李斯建议：“置诸侯不便”，应采用郡县制。
经过周密的考虑后，秦始皇决定采用李斯的郡县制方案。郡县制并非李斯原创，秦国在穆公时期便有了郡制，而县则是楚武王时期就已经产生。秦朝的郡县制在前人的基础上进行了改良，全国被分成36个郡，每个郡有分成数目不一样的县。每个郡的行政由郡守（文官）、尉（武将）和监御史（监察）三人共同负责。县由地方官治理，他们或称令（大县），或称长（小县）。
所有这些官员都由中央政府任命，并按照朝廷的规定领取俸禄，但是他们的职位不是世袭的，朝廷可以根据他们的表现或者需要随时进行罢免。秦朝时期的郡比现代的省要小得多，虽然对秦末到底有多少郡以及他们是哪些郡的问题一直争论激烈。但是到公元前210年，公元前221年确定的36个郡数量增加了具体是4个还是6个存在争议。
郡的数量后世王朝一直在改变。公元前2年汉代政府登记的全国有83个郡，清朝末年全国有18个标准行政省。而县的数量从秦朝开始一直保持较高的稳定性。根据历史记载可知，秦朝约有1000个县，公元2年汉朝有1314个县，1911年秦末有1381个县。
推行郡县制，意味着必须对原来各国的统治者及各国贵族进行处置。这个问题通过“徙天下富豪于咸阳十二万户”而得到了解决，秦始皇在咸阳为他们建造了新的宫殿，把他们置于中央政府的监管之下。虽然《史记》并未明确记载，但是根据推测这些人应该得到了充分的补贴以代替他们原来的收入。这个政策与秦王朝是相使相终得，当秦王朝崩溃后，这些被监控的贵族王室就又开始重整旗鼓与秦朝作对。这个记载唯一令人生疑的是12万户，这一巨大数字与六国王室贵族并不相符。
随着大规模迁移人口至京城的另一行动是兵器的销毁，秦朝命令全国的兵器都必须上缴，并运至咸阳，在京城被收缴的兵器被铸造成为12个巨大的金人。这些巨大的雕铸被置于宫中，它们一直存在到东汉末年，董卓销毁了大多数，剩下的也被移走并于4世纪被熔掉。
郡县制虽然并不是由秦朝创立，但是却在秦朝的手中发扬光大。郡县制摒弃了延续已久的分封制，为华夏大地建立强力中央政府提供了可靠的保证。郡县制虽然在后来的朝代里有所反复，但一直是社会发展的一个方向，从秦朝至今已过去两千多年，但是我们依然采用的是郡县制，稍微不同的是郡改成了省。