清代，先后隸屬于迪化直隸州、迪化府、迪化縣，并在現六道灣、七道灣建立惠來堡、屢豐堡，實行屯田。

1949年屬迪化市第五區(qū)和迪化縣第十五區(qū)。

1956年5月，從烏魯木齊市五區(qū)和烏魯木齊縣一區(qū)各劃出一部分成立水磨溝工礦區(qū)。

1960年，更名為景泉人民公社。

1961年，恢復水磨溝工礦區(qū)。

1969年，更名為水磨溝區(qū)。

1987年12月，烏魯木齊市政府決定將卡子灣街道辦事處劃歸東山區(qū)，1989年1月將天山區(qū)新民路街道辦事處劃歸水磨溝區(qū)，1998年1月，從新民路、六道灣兩個街道辦事處各劃出一部分成立南湖街道辦事處。

2000年8月將烏魯木齊縣七道灣鄉(xiāng)交水磨溝區(qū)代管，2001年1月，烏魯木齊縣七道灣鄉(xiāng)（不含卡子灣村）和原東山區(qū)蘆草溝鄉(xiāng)水磨溝村正式劃歸水磨溝區(qū)。

2002年成立南湖北路街道辦事處，南湖街道辦事處更名為南湖南路街道辦事處。

2006年撤銷七道灣鄉(xiāng)，建立七道灣街道辦事處。

2007年12月，米東區(qū)蘆草溝鄉(xiāng)的石仁子溝、葛家溝、澇壩溝3個村移交水磨溝區(qū)管理。

2008年1月，成立風景區(qū)管委會（籌備辦公室），負責石仁子溝、葛家溝、澇壩溝3個村行政管理和旅游開發(fā)工作。

2009年5月18日，成立農村事務管理辦公室，負責石仁子溝、葛家溝、澇壩溝3三個村的行政事務管理工作。