我国封建时代的早期，地方行政机构主要是郡和县。郡，原是春秋末年各诸侯国设置在边区的地方行政机关，地位本低于县，后来边地辖区不断扩大，始成为县上机构。
秦朝时期
秦在孝公死后，才有郡的设置，由郡守，郡尉分统民、军二政。统一全国后，就将全国分为36郡，后扩增至40余。
汉朝时期
汉初在中央政权直接控制的关中地区，置有15郡，在削弱了诸侯王国势力后，方始将郡推向了全国。
郡守(景帝后改称太守)权力很大，举凡一郡的民、财、法渚事务皆为其所掌。且太守往往代行郡尉之职，统率军队。太守之下的佐官，有由中央任用的丞和长史，还有太守自署的别驾、主簿，功曹，议曹，贼曹、决曹、督邮等。
魏晋南北朝时期
魏晋南北朝时期，地方上州权最重，一州刺史统有数郡，而且刺史大多兼任军职，统率州，郡军队。这时的刺史多带有“都督诸州军事”，“监诸州军事”，“督诸州军事”名号，这就意味着他们不但有权管理本州民政，而且还有权管理数州军政。
这样，就决定了刺史们多配备有两套办事班子，一是民政这一头的别驾从事史，治中从事史、祭酒从事史，主簿等等，二是军政一头的长史，从事中郎、司马、录事参军，主簿等等。所有这些僚属例由刺史们自行选用。刺史统一方军政大权，其势太重，中央无力相抗。王敦、桓温等皆以一地之长，对中央颐指气使。南朝各代都是外有强敌，内有强臣，焦头烂额，难保朝夕之安。
隋唐时期
隋唐地方行政体制改变了东汉末年以来的州、郡、县三级制，并省州，郡而成州，县两级制。这时的州就是汉时的郡。普通州的长官称刺史，副职称别驾，长史、司马，其下有司功、司仓、司户，司兵、司法、司士六个参军事、录事参军事负责纠正各曹职事。司马、参军等职往往为贬宫所居，永贞革新失败后，柳宗元，刘禹锡等八个中坚分子一齐被贬往边州任司马，史称为“八司马”。
首都、陪都置牧以为长。李唐王朝在长安置雍州牧，东都洛阳置洛州牧，发迹之地太原置并州牧，皆以皇子充任。但这些亲王并不莅任视事，常常是副职长史代行职事，唐玄宗时制度又变，将雍、洛，并三州分别改为京兆，河南，太原三府，仍置牧以总之，长史改称府尹总理府务，加置少尹为之助，其下还有司录参军事、功曹、仓曹，户曹、兵曹、法曹，士曹六个参军事为之僚佐，以理众事。
