虞夏為徐州之域。

商為卞明國。

周為魯國卞邑。

秦仍為卞邑，屬薛郡。

西漢置卞且，屬徐州魯國。

東漢沿用西漢舊制。

三國屬魏。

西晉屬魯郡。

西晉末全境淪于石勒，東晉太和元年（366）陷于燕。

寧康元年（373）陷于秦。

南朝宋初，卞縣廢。

泰始二年（466）復置，屬魯郡。

因兗州刺史畢敬眾降魏，其后，所屬忽宋忽魏。

至宋末梁初常屬北魏。

北魏，縣境西部為汶陽縣，東部為卞縣，均屬魯郡。

隋開皇十一年（591）因泗河發(fā)源于境內而更名為泗水縣，隸屬魯郡。

唐，屬河南道兗州魯郡。

后五代，屬兗州。

宋，為京東西路襲慶府所轄。

金，為山東西路兗州所轄。

元，屬濟寧路兗州，至元二年（1336）泗水縣并入曲阜。

至元三年（1337）春，因治理不便，于泗城西八里音義置錦川縣。

同年冬，廢錦川縣，復置泗水縣，仍隸屬兗州。

明，洪武初，隸屬濟寧府兗州。

清，隸屬兗州府。

1913年，裁府制改省、道、縣三級制，泗水縣為山東岱南道所轄。

1914年，為濟寧道所轄。

1927年，直屬省轄。

1936年，泗水隸屬第一行政督察區(qū)。

1938年1月，日本侵略軍占領泗水，日偽成立泗水縣政府，屬第十五行政督查區(qū)1939年末，游擊泗水縣政府宣告結束。

1947年，國民黨軍隊重占泗水后，泗水縣仍屬山東省第十五行政督察區(qū)所轄。

1939年春，建立抗日民主政權，以滋臨公路為界，劃為兩個縣：公路以南為鄒東縣，以北為泰泗寧中心縣。

1940年春，泰泗寧中心縣撤銷，恢復泗水縣，歸魯南一地委領導。

1941年7月，泗水與曲阜合并，成立曲泗縣。

1946年4月，撤銷曲泗縣，恢復泗水縣，歸魯南第一專屬濟寧專區(qū)。

1948年6月，泗水解放，泗水縣屬魯南第一專署。

1948年10月，隸屬尼山專署。

1950年2月，隸屬滕縣專署。

1950年5月，隸屬泰安專署。

1956年5月，隸屬濟寧專署。

1983年10月，隸屬泰安地區(qū)。

1985年5月，隸屬濟寧市。