余干，秦始皇二十六年(公元前221年)建縣,訖今已有2231年歷史。

以境處余水之干得名為余干縣。

西漢初名余汗縣，屬豫章郡，治所即今玉亭鎮(zhèn)。

王莽始建國初年（9）改名治干縣。

三國吳稱余汗縣，改屬鄱陽郡。

南朝宋永初年間改名余干縣。

南齊又復名余汗縣。

隋開皇九年（589）又改稱余干縣，屬饒州。

元元貞二年（1296）升為余干州，屬饒州路。

明洪武初改為余干縣，屬饒州府。

民國時期，先后屬潯陽道，江西省第四行政區(qū)，第六行政區(qū)。

1949年5月7日余干解放后，先后屬鄱陽專區(qū)、樂平專區(qū)、浮梁專區(qū)，1952年改屬上饒專區(qū)。

1968年上饒專區(qū)改稱上饒地區(qū)，2000年10月上饒地區(qū)撤區(qū)設市，余干縣屬上饒市管轄。