晋中历史悠久。据考古发现，在距今约3万年前的旧石器时代晚期，已有人类活动。商代后期，出现城邑。春秋时期，开始设立县一级的行政建置，境内设有祁(属今祁县)、邬(属今介休)、涂水(属今榆次)、马首(属今寿阳)4县，为晋国统领；东部有白狄族所建肥国(属今昔阳)。战国时，全境分别为韩、赵、魏三国所据有。秦统一全国后，实行郡县制，境地属太原郡和上党郡管辖。东汉时，在今昔阳置乐平郡，始有县以上的郡一级建置，全境分属太原、上党、乐平3郡。三国时归魏并州统辖，为太原、上党、西河、乐平4郡所领。北魏统一北方后，改属并州太原郡、乡郡(初治今榆社县社城镇，后迁今武乡县故县镇)、乐平郡、上党郡和汾州西河郡(治今吉县)。此后相继属于东魏、北齐。隋初废郡设州，改属并、介、韩、辽(开皇十六年设，治今昔阳)、吕5州。后废州复郡，属太原、西河(介州改)2郡。不久,又改属太原、介休、霍山3郡。唐代建置变化频繁，境地由并、介、吕、韩、太、辽、榆、受、箕、汾、仪等州及太原府相继领属，至883年(中和三年)定型为太原府和汾、辽2州统领。其中榆次、太谷、祁县、寿阳属太原府，平遥、介休、灵石多属汾州府，乐平、和顺、榆社属辽州。北宋时期，境地属河东路太原府、汾州、辽州、平定军管辖。宋金南北对峙期间，属于金。元代，分属冀宁路和晋宁路。明清两代，分属于太原、汾州、平阳3府和辽、平定、霍州3个直隶州。

    民国初期，全境分属冀宁道和河东道。1927年(民国16年)，废除道制，直属山西省督军府(后改山西省政府、山西绥靖公署)。1937年抗日战争爆发后，晋中境内各县抗日民主政府相继成立，分属于晋察冀、晋冀鲁豫、晋绥边区政府管辖。1948年7月，晋中全境获得解放，各县暂归华北区太行一专区、太岳一专区和晋中(旋改称太原)一、三专区管辖。

    1949年9月，山西省人民政府设立榆次区行政督察专员公署，为省政府派出机构。从此，晋中开始成为一个统一的行政区域，称榆次专区。1950年8月，改称山西省人民政府愉次区专员公署。1955年2月，更名山西省榆次专员公署。1958年11月，改名晋中专员公署，俗称晋中专区。1968年9月，成立晋中地区革命委员会。1978年5月，改设晋中地区行政公署，仍为山西省人民政府派出机构。

     1999年9月24日，经国务院批准，撤销晋中地区，设立晋中市(地级市)，所属榆次市改为榆次区。2000年10月，晋中市人民政府正式成立。