春秋屬晉，戰(zhàn)國時屬趙的一邑稱西陽，西漢始置中陽縣。

東漢末年并入離石縣，屬西河郡。

三國屬魏，十六國時期，初屬后趙永石郡，后屬西河郡。

前秦、前燕沿襲未變。

北朝時期屬北魏離石鎮(zhèn)。

北周大象元年（579），置寧鄉(xiāng)、平夷二縣，均屬離石郡。

隋大業(yè)三年（607）并寧鄉(xiāng)、平夷入離石為石州。

唐代一直屬石州。

五代十國時期，初屬后梁、后唐、后晉，后屬后漢、北漢。

宋屬河?xùn)|路太原府石州。

金泰和二年（1212）重設(shè)寧鄉(xiāng)縣，亦屬石州。

元代初屬山西宣慰司太原路石州，后改屬冀寧路石州。

明代屬山西承宣布政司太原府石州，萬歷二十三年（1595）改屬汾州府永寧州，至清朝一直未變。

1914年將寧鄉(xiāng)縣復(fù)名為中陽縣，屬山西省冀寧道至1946年中陽縣解放。

1946年12月12日，中陽縣解放，屬晉綏邊區(qū)離石專區(qū)管轄。

1949年初，晉綏邊區(qū)撤銷，中陽縣改屬陜甘寧晉西北離石專員公署；9月山西省人民政府成立，中陽縣屬汾陽專區(qū)。

1951年3月27日，汾陽專區(qū)撤銷，中陽縣改屬興縣專區(qū)。

1952年7月，興縣專區(qū)撤銷，中陽縣屬榆次專區(qū)管轄。

1958年10月，中陽縣并入離石縣，為中陽鎮(zhèn)。

1959年10月，恢復(fù)中陽縣建置，屬晉中專區(qū)管轄。

全縣轄22個公社。

1971年5月，組建呂梁地區(qū)，從中陽縣劃出12個公社歸柳林縣管轄，時轄10個人民公社。

1972年6月從城關(guān)公社劃出13個生產(chǎn)大隊(duì)增設(shè)蘇村公社，時下中陽縣轄11個公社。

1984年撤銷人民公社建制，設(shè)7個鄉(xiāng)，轄4鎮(zhèn)7鄉(xiāng)共計(jì)11個鄉(xiāng)鎮(zhèn)。

2002年撤鄉(xiāng)并鎮(zhèn)，轄5個鎮(zhèn)2個鄉(xiāng)共計(jì)7個鄉(xiāng)鎮(zhèn)，設(shè)有13個居民委員會、87個村民委員會。

2004年4月，屬呂梁市，轄區(qū)鄉(xiāng)級政區(qū)至今未變，沿用至今。