春秋改吴房；
汉置吴房、灈阳二县；
北魏改遂宁县；
唐元和十二年（817年），李愬雪夜入蔡州，平定吴元济叛乱，唐宪宗敕改县名为遂平至今；
1948年2月，中国共产党领导的遂平县爱国民主政府成立；
1949年后，遂平县隶属河南省信阳专区。
1958年11月13日，毛泽东主席曾亲临遂平视察，在遂平历史上留下了难忘一页。
1965年增设驻马店专区，遂平县由信阳专区划出，改属河南省驻马店专区；
1975年8月，驻马店地区连降特大暴雨，汝河上游板桥水库垮坝，造成“75·8”洪水灾害。
2000年8月驻马店撤区设市，遂平县隶属驻马店市。
