靈臺歷史悠久，遠在商周時期就先后建有密須國、密國。

秦代置鶉觚、陰密二縣。

東漢后期設三水縣。

東晉南北朝，曾先后設立過鶉陰、朝那、安武等縣。

隋大業(yè)元年（605年），分鶉觚置靈臺縣，取文王伐密筑“靈臺”之意，靈臺縣名始見于史冊。

同年西部始置良原縣，鶉觚、良原、朝那三縣均屬安定郡。

隋大業(yè)二年（606年），廢靈臺、陰密入鶉觚。

唐武德元年（618年），復置靈臺縣，屬麟州。

貞觀元年（627年）廢麟州，省靈臺入麟游，天寶元年（742年），改鶉觚及析麟游為靈臺縣。

元七年（1271年），省靈臺入涇川。

十一年（1281年），復置，以良原縣省入。

清康熙六年（1667年），分陜西置甘肅省，靈臺縣遂入甘肅。

民國元年（1912年）靈臺屬涇原道；民國十六年（1927年），廢道，靈臺縣直隸甘肅省。

民國二十五年（1936年），原涇原道劃為第二行政督察區(qū)，靈臺縣屬之。

1949年7月24日，靈臺縣全境解放，成立靈臺縣人民政府。

1958年10月，撤銷靈臺縣并入涇川縣。

1961年12月，恢復靈臺縣。