西周时将冀北划为并州，五台为并州北地。鲁昭公元年（公元前541年）归于晋。韩、赵、魏三分晋地．五台归赵。秦统一中国后，隶属太原郡。
西汉置虑虒县，属太原郡。三国剐属魏国，隶太原郡。
西晋时属新兴郡，未置县。北魏太和十年（486年）复置县，改名“驴夷”，属肆州永安郡。北齐改属雁门郡。
隋大业三年（607年）改名五台县，仍属雁门郡。
唐、五代十国属代州。
宋灭北汉，隶代州。金属河东北路代州，金贞祐四年（1216年）升为台州。
元属中书省南部冀宁路。
明洪武二年（1369年），仍复为五台县，属太原府。洪武九年（1376年）改属代卅，仍辖于太原府。清雍正二年（1724年），代州升为直隶州。
民国三年（1914年），五台县属雁门道。
1937年，抗日民主政府成立，属第一行政督察公署。
1938年，晋察冀边区行政委员会成立，五台县届二专署领导。
1945年，改属晋冀二专区。
中华人民共和国成立后．属忻县。
1959年忻县、雁北合并，属晋北。
1961年复归忻县。
1985年隶属忻州市至今。
