元朝户部尚书张昶最早提出卫所。明洪武十七年(1384年)，在全国的各军事要地，设立军卫。一卫有军队五千六百人， 其下依序有千户所、百户所、总旗及小旗等单位，各卫所都隶属于五军都督府，亦隶属于兵部，有事调发从征，无事则还归卫所。此法的实行，须有一套能保障军队数目的户籍制度配合，来维持卫所制的运行。

明代的卫所兵制，实乃吸取中国历史屯田经验，是一种寓兵于农，守屯结合的建军制度。朱元璋说：“吾养兵百万，不费百姓一粒米。”

军户即户籍种类属军籍之户，初期的来源有二，一是元代原本的军户，二是现役军人之户，这在洪武二十一年(1388年)黄册编造之後更加以确立。军户为世袭，且管理颇严格，除籍十分困难，大致上除非丁尽户绝、家中有人成为高官或是皇帝敕免，是无法除军籍的。尽管如此，日久军户仍日渐减少, 庞尚鹏主张：“清查隐占，均平粮额，开垦抛荒最为目前急务”， 因此後来有使因犯罪而充军者入军籍之方法，被称作恩军或长生军。