隋朝時期，金山鎮(zhèn)境域?qū)偌沃萜角伎h，后屬榮州大牢縣。

唐朝時期，為榮州應靈縣治地。

明末清初，屬犍為縣清流鄉(xiāng)。

民國二十四年（1935年），設金山鎮(zhèn)。

民國三十年（1941年），屬犍為縣第四區(qū)。

民國三十一年（1942年），金山鎮(zhèn)改鄉(xiāng)。

1951年，屬犍為縣第四區(qū)。

1952年10月，為五通橋市第四區(qū)駐地，屬新勝鄉(xiāng)。

1955年，設五通橋市金山鎮(zhèn)。

1956年，與新勝、金燕小鄉(xiāng)合并為金山鄉(xiāng)。

1958年，鄉(xiāng)改公社。

1959年，與輝山公社合并為金輝公社。

1961年，析置金山公社。

1962年，分為金山鎮(zhèn)和金山公社。

1984年4月，公社改鄉(xiāng)。

1987年，金山鄉(xiāng)并入金山鎮(zhèn)。

1992年，鹽林、金燕2鄉(xiāng)并入金山鎮(zhèn)。

2001年9月，設金山寺居民委員會。

2019年12月13日，撤銷輝山鎮(zhèn)，將其所屬行政區(qū)域劃歸金山鎮(zhèn)管轄。