隋文帝将全国各地区划分为若干军事区域，设总管负责该地区军事，平时备边防患，战时奉命出征。总管下设总管府，分上中下三等。另外尚有四大总管：晋王杨广镇并州、秦王杨俊镇扬州、蜀王杨秀镇益州、韦世康镇荆州。

　　隋朝共设有三十至五十多个总管，以长安为中心分为东西南北四大军区，驻守天下诸州以抵御外患。并且以北部边疆地区为重点，镇守要害。军区共有：北及西北八府，主要防御突厥汗国;东北七府，防御突厥汗国和契丹;中西部八府，拱卫畿辅，扼守江源;东南九府，守南方形胜险固之地;另有防御吐谷浑的叠州，镇爨族之南宁;之后又增加遂、泸二府以防备当时的西南各部落。后来唐朝也继承这种作法，并且发展成“道”的军区或监察。

　　总管府

　　北周开始设置的区域性军事管理机构。魏晋以来，逐渐形成一些军事指挥区域，即都督区。至隋唐，总管府逐渐由纯军事性质转向兼管军民两政的职能，并且成为普遍的地方常设权力机关。

　　隋代总管府是地方上最高统治机关，但其本身又有等第之差。一般分作上、中、下三等;若是亲王出任某府总管，则该总管府被列为“大”等府，这仅是少数特例。开皇末年，大总管府有四：益、荆、扬、并。关于总管的品秩，则根据总管府的等次而有所差别。上等府的总管，为视从二品;中等府的总管，为视正三品;下等府的总管，为视从三品。

　　品秩不同，其俸禄待遇、车骑服饰自有差别。总管府与诸州的上下隶属关系既已明确，其等第品秩地位也已清楚，则其兼管军、民两政的职能昭然若揭。关于总管府治理民事，《隋书》记述颇多。譬如：韦世康任荆州总管，“为政简静，百姓爱悦，合境无讼”。尔朱敞就任徐州总管，“在职数年，号为严肃，民吏畏之”。

　　乞伏慧任荆、潭、桂三府总管期间，江湘之地“其俗轻剽，慧躬行朴素以矫之，风俗大洽”。而令孤熙在桂州总管府任内，“为建城邑，开设学校，华夷感敬，称为大化”，可见深得民心。这充分表明：总管府是隋朝地方行政体制的最高层级。

　　至于总管府的军事职能，主要是指镇抚一方，特别是在北方边地最为突出;其次是训教管内府兵，管理军坊。

　　按照常例，凡任总管之职者，必定兼任驻在州的刺史——二级行政区的行政长官，且以驻在州的全名作为本总管府的专名，合称“囗州总管府”。这是隋唐时代总管府、都督府的显著特征。

　　隋代总管府建制已经由纯军事性质转向兼管军民两政的职能，并且成为普遍的地方常设权力机关，但尚未完全蜕掉其母体的胎记。据此，总管府管区至少已是高于州级区域的“准行政区”。隋文帝时期，地方行政体制呈现出五个层级，即：总管府—州—县—乡—里。

　　乡、里乃基层行政组织。唐代初年重建这种地方行政建制时，虽然仍沿用“xxx州诸军事”传统措词，但性质已变，总管府遂以正规行政管理体制的面目存在于封建国家的版图上。