新石器時(shí)代在三河一江流域就有人類開發(fā)這塊亙古荒原，自中華民族有了文字，甲骨片上就已刻上了“羌”字。

羌人部族眾多，隨著歷史的進(jìn)程，甘南的羌部逐漸建立自己的部落聯(lián)盟或依附中原王朝，民族間的交流逐漸頻繁起來。

秦時(shí)部分地方已屬臨洮管轄。

西漢時(shí)，東部屬隴西郡，北部屬金城郡，設(shè)白石、羌道二縣。

隋時(shí)的臨洮郡、袍罕郡、宕昌郡分別管轄今甘南的西北和東南部部分地區(qū)。

唐朝初年廢郡置州，甘南境內(nèi)曾為洮州、芳州、迭州的全部和河州、宕州的部分，西北部屬吐谷渾、吐蕃的范圍。

元代屬宣政院轄，吐蕃等處宣慰司統(tǒng)領(lǐng)。

明代屬陜西都司管轄，清乾隆時(shí)，州境大部屬鞏府，夏河由循化撫番廳管轄。

1913年，廢府設(shè)道，臨潭縣屬蘭山道，西固縣曲縣屬渭川道。

1928年，建立夏河縣，改屬甘肅管轄，1937年，成立卓尼局。

1949年9月至12月，臨潭、卓尼、夏河、西固相繼解放。

1952年7月14日，甘南藏區(qū)委員會(huì)，1953年10月，甘南藏族自治區(qū)成立，1955年7月1日，改為甘南藏族自治州，州府設(shè)在合作市，是全州政治、經(jīng)濟(jì)、文化中心。