榆次县衙占地面积21000平方米,是全国保留下来的最大的县级衙署。据榆次方志载,“为并州守署之遗”。榆次县衙建筑群,中轴线从前到后六进六出,包括东西两侧共有26个院落。主要建筑有:一牌楼、一戒石坊、一园(西花园)、二楼(思凤楼、乐楼)、二祠(社神祠、侯祠)、三庙(马王庙、牢神庙、衙神庙)、三门(衙门、仪门、内宅门)、五堂(大堂、二堂、三堂、四堂、五堂)、六房(礼房、吏房、户房、兵房、刑房、工房)、十二院(寅宾馆院、巡捕厅院、县丞院、东小院、西小院、钱税院、主簿院、典史院、三班院、牢房院、大膳房院和小膳房院)、过庭、游廊等总计房屋400余间。
在县衙建筑群中,各单体建筑按功能和作用可以分为行政管理、文化生活、神庙祭祀三个系统。行政管理系统的单体建筑主要有:大堂、二堂、三堂、六房、县丞院、钱税院、巡捕厅院、主簿院、典史院、寅宾馆院、三班院、牢房院等;文化系统的单体建筑主要有:四堂、五堂、东小院、西小院、西花园、膳房院等;神庙祭祀系统的单体建筑主要有:土地祠、侯祠、衙神庙、狱神庙、马王庙、思凤楼等。整个县衙建筑群是传统王权与神权、封建礼制、古建艺术、乡土特色和官制变迁的物证,同时,一座县衙也是一部内涵丰富的文化史。
榆次老城县衙仪门向外的匾额为“晋藩首辅”,向内的匾额为“古并州治”。这两块匾额上都积淀着榆次这一文化名城的一段不同寻常的历史。宋太平兴国四年(公元979年),宋太宗赵光义水灌晋阳城灭北汉,并州治被毁,遂把并州治所移到榆次。三年后并州治所又移到唐明镇,榆次却留下了“古并州治”的历史称谓。明初,洪武皇帝朱元璋将他的三儿子朱封到太原,榆次是封国的三个辅县之首。
榆次县衙四堂墙上“剧暑悲难渡,清秋喜却回”的匾额是大清圣祖康熙在公元1703年七月六巡晋驻骅榆次时给当时知县祖良才所题,这对这所千年古衙来说不能不算是历史的厚赐。