清朝時(shí)期屬蘄水縣下鄉(xiāng);民國(guó)時(shí)期屬第二區(qū);1955年農(nóng)業(yè)合作化時(shí)成立前進(jìn)一社,屬大馬鄉(xiāng);1958年人民公社化后定名大馬一大隊(duì),屬蔡河區(qū);1974年撤區(qū)并社后改名晶山大隊(duì);1976年與大馬、紅畈兩大隊(duì)合并,名大馬大隊(duì);1979年大馬、紅畈兩大隊(duì)分開(kāi),以境內(nèi)山名古晶山定名古晶山大隊(duì);1984年底恢復(fù)區(qū)、鄉(xiāng)、村建制,屬蔡河區(qū)大馬鄉(xiāng),原名稱古晶山大隊(duì)變更為古晶山村民委員會(huì);1988年撤區(qū)建鄉(xiāng)屬蔡河鎮(zhèn);2001年合并鄉(xiāng)鎮(zhèn)屬蔡河鎮(zhèn)至今。