早在上古时代，人类祖先就在曲阜一带生息劳作，开拓了早期的物质文明，文物发掘中发现大量公元前4300--前2400年间的“大汶口文化”和‘龙山文化’遗迹。据古籍记载，在四、五千年前，这里即是炎帝神农氏营都聚居的“大庭氏之墟”。
大约公元前二十七世纪末叶，中华民族的‘人文初祖轩辕黄帝诞生于曲阜寿丘。继黄帝之后，少昊曾在曲阜营建都城。相传少昊在位84岁，寿百岁，崩葬曲阜城东北寿丘云阳山，与二帝三王(尧、舜、禹、汤、文武)、周公、孔子并称万世享祀。
中国古史相传的“三皇五帝”中，有四人曾在曲阜留下了活动的踪迹，开创了发达的古代文明。公元前二十一世纪前后，曲阜属上古尧舜时代九州之一的徐州。公元前十六世纪后的商代，曲阜为奄国国都，并一度成为商王朝的都城。公元前1066年，西周武王伐纣灭商，武王将其胞弟、王国宰辅周公旦封于故奄地曲阜，立国为“鲁”。
公元前249年楚国灭鲁，始设鲁县，596年初定县名为曲阜。
秦始皇二十四年（公元前223年），秦灭楚，鲁县入于秦。秦始皇二十六年（公元前221年）统一中国，始实行郡县制，鲁为薛郡，郡治在曲阜。
汉景帝三年（公元前154年），帝刘启改封皇子、淮南王刘余为鲁王，以鲁县为国都。
隋文帝开皇四年（584年），诏改鲁县为“汶阳”，自鲁国灭亡改为鲁县，至是年止，曲阜以“鲁”为县名，历时长达833年。
隋开皇十六年（598年），诏改县名为“曲阜”，“曲阜”一名，一直沿用至今。
宋真宗时曾改名为仙源县。仙源县城是曲阜有史以来继周、汉鲁城之后的第三座古城。宋高宗建炎二年（1129年），金兵南下，仙源县入金朝，恢复曲阜县旧名。
明正德六年（1511年），河北刘六、刘七率领的农民起义军“破曲阜、焚官寺民居数百，县治为墟”。明武宗朱厚照诏令山东巡抚于鲁故城西南隅以孔庙为中心重筑新城，即现存明故城。
清代，曲阜地方建制与明代基本相同。
民国十七年（1928年），直接隶属山东省。
民国二十九年（1940年），属兖济道。
民国三十四年（1945年），与泗水并成为曲泗县。
民国三十五年（1946年），曲泗分治。
民国三十七年（1948年），隶属鲁中南行政区第四专区，后改称尼山专区和滕县专区。同年，曲阜解放。
新中国成立后：1953年，曲阜改属济宁专署。
1958年，与滋阳合并，仍命名曲阜县。
1962年，曲、滋分治，恢复原建制。
1983年，济宁专署改为省辖市，曲阜仍隶属济宁市。
1986年6月，改为县级市，始称曲阜市，属济宁市代管。2000年12月，撤销曲阜镇，以原曲阜镇的行政区域设立鲁城街道办事处，机关驻原曲阜镇人民政府驻地；撤销书院镇，以原书院镇的行政区域设立书院街道办事处，机关驻原书院镇人民政府驻地；撤销尼山乡，将其行政区域并入南辛镇。
