西晋以后不曾南迁的世族地主，在战乱之时利用宗族关系组织武装力量结坞自保。北魏入主中原后，为了争取汉族地主的支持，委任坞堡主担任宗主督护，允许其收容百姓、征收赋役，从而使各坞堡成为事实上的地方基层行政组织。
然而，宗主却借机大肆荫庇户口，导致“诸州户口、籍贯不实，包藏隐漏，废公罔私”，出现了“民多隐冒，五十、三十家方为一户”的情况。史载“魏初不立三长，故民多荫附，荫附者皆无官役，豪强征敛，倍于公赋”，“千丁共籍，公避课役”，在当时以户为赋役征收单位的情况下，豪强地主大量隐匿户口，严重影响了北魏政府的赋税收入和徭役来源。
为此，北魏政府曾多次下诏检括户口，要求隐户归籍。太延元年(435)十二月下诏：“自今以后，亡匿避难，羁旅他乡，皆当归还旧居，不问前罪。”延兴三年(473)九月下令检校户口，“诏遣使者十人，循行州郡，检括户口。其有仍隐不出者，州、郡、县、户主，并论如律”。
太和五年(481)七月，又班“户籍之制”，继续整顿户籍。但是，这些行政措施都没有取得预期的效果，北魏政权与豪强地主的矛盾日趋尖锐。因此，检括户口、清理户籍，整顿基层行政机构就成为北魏政府面临的重要任务。
太和十年(486)，李冲上疏建议实行三长制。他认为：“三正治民，所由来远。”因此，“宜准古，五家立一邻长，五邻立一里长，五里立一党长，长取乡人强谨者。邻长复一夫，里长二，党长三。所复复征戍，余若民”。
李冲的建议得到文明太后和孝文帝的支持，孝文帝遂下诏说：“又邻里乡党之制，所由来久。欲使风教易周，家至日见，以大督小，从近及远，如身之使手，干之总条，然后口算平均，义兴讼息”，“今革旧从新，为里党之法，在所牧守，宜以喻民，使知去烦即简之要”，由此正式实施三长制。
孝文帝强调“邻里乡党之制，所由来久”，其所推行的三长制明显是参照早先中原地区的乡里组织制定的。三长制规定五家立一邻长，五邻立一里长，五里立一党长，分别由乡中德行兼备的人担任，可以享受免役的特权，邻长免一丁，里长免二丁，党长免三丁，三年没有过失，还可以升等录用。
三长主要负责检括户口、催督租调、征发兵役徭役，在民间还可起到行为表率、敦化风俗和平息讼争的作用，有利于社会秩序的稳定。三长制的推行，使大量的农民脱离了豪强地主的荫庇，通过邻里党组织编制起来纳入国家户籍，成为实施均田、征收租调赋税和兵役徭役的对象，健全了北魏的基层行政组织，为均田制的推行提供了组织基础。
孝文帝在经济改革中将土地、赋役和劳力紧密结合，实行均田、设立三长和改革租调三个方面相互联系，相辅相成，缺一不可。其中，均田是基础，三长制是组织保障，赋役是目的。
孝文帝积极适应中原汉族地区农耕经济和定居生活的特点，吸收并借鉴中原汉族王朝的统治思想和经验，促进了拓跋部由落后的游牧经济向农耕经济的转变，使国家的经济力量逐渐强大，巩固了北魏社会和国家。
