民国26年(1937年)设甘泉寺镇，辖及今麦积乡西南部；民国29年析置新军乡(今麦积)，并改名甘泉镇；民国33年新军乡西部又并甘泉镇。境内西部则一直属马连乡。
1949年10月，设甘泉区公署于甘泉寺，辖今街子乡、麦积乡及今麦积区李乡、徽县高桥等地，境内设甘泉镇(1951．年改为乡)。
1950年1月，分置西枝乡(杜甫流寓秦州时，曾访赞公于西枝)。同年在原马连乡东南部置归风乡(先属玉皇区，1955年并为甘泉乡和归凤乡，1956年归风再并入甘泉寺)。
1961年7月，街子、麦积分出另设公社，境内分甘泉、归凤2公社，并设麦积区(驻甘泉寺，1962年改名甘泉区)，辖及今钕子、麦积乡，1962年还一度辖龙槐、柳林公社。
1968年，甘泉区撤销，归风公社并甘泉。
1994年被国家建设部列为全国第一批小城镇建设试点，同年委托中国市政西北设计院第六勘测所对甘泉进行了总体规划设计。
1998年撤乡建镇，1999年7月被列为天水市乡镇企业示范小区，同年10月被省体改委列为全省第一批综合体制改革试点镇。2003年撤乡并镇原街子的6个行政村10000人划入甘泉镇，形成现规划。2006年10月，被命名为“全省小城镇建设重点镇”。2006年评为全市“十一五”小城镇建设先进镇。2008年6月被省发改委列为“全省第二批发展改革试点镇”，2008年11月被省发改委列为世行贷款资金建设经济综合开发项目示范镇。
