解放前,小雷山村分屬大冶縣大茗鄉(xiāng)第六保和鄂城縣靈溪鄉(xiāng)萬(wàn)年里石嶺堡;解放初分屬大冶縣第九區(qū)雷山鄉(xiāng)和鄂城縣毛家區(qū)九橋鄉(xiāng)。
1955年10月13日鄂城縣毛家區(qū)九橋鄉(xiāng)劃歸大冶,雷山鄉(xiāng)、九橋鄉(xiāng)分屬礦山區(qū)陳貴鄉(xiāng)和南山鄉(xiāng);1962年分屬礦山區(qū)陳貴公社四、五大隊(duì)和南山公社八大隊(duì);1975年分屬礦山公社礦山大隊(duì)和雷山大隊(duì);1984年分屬礦山鄉(xiāng)禮洪村、下吳村和石嶺村;1989年分屬陳貴鎮(zhèn)禮洪村、下吳村和石嶺村;1999年合并更名為陳貴鎮(zhèn)小雷山村至今。