辽宋时期属东京道女真五国部属地。金代，伊春为上京会宁府蒲与路所辖。元属辽阳行省水达达路。明朝为奴尔干都司屯河卫辖区。清初，为宁古塔昂邦章京辖地。1662年（康熙元年），宁古塔昂邦章京升为镇守宁古塔等处将军，伊春地属之。1683年，宁古塔将军所辖西北地区设置黑龙江将军，伊春在其辖境内。1698年，黑龙江将军之下设置齐齐哈尔副都统，伊春为其辖境。
民初，划归汤原县管辖，为原始森林地区。东北沦陷后，1941年11月建成绥佳线铁路后，于1942年7月修建汤林线铁路南岔至伊春段，日本殖民主义者开始进行掠夺式地乱砍滥伐。
1945年春，伪汤原县公署于伊春设立伊春街。
抗日战争胜利后，1946年隶属汤原县南岔区管辖，1949年10月设置伊春镇。
1950年建立伊春森林工业管理局，下设南岔等5个森工分局。为了适应森林工业生产发展的需要，松江省人民政府于1952年7月报请设置伊春县。同年9月29日，东北人民政府民政部函告：“经中央内务部批示，同意将汤原县伊春林区划出，成立伊春县，县府设在伊春街”。全县共7.5万人，为丁等县。12月1日，伊春县政府正式成立，由松江省直辖。
1954年7月，将小白、朗乡两镇划归铁力县管辖。同年8月，松、黑两省合并后，由黑龙江省直辖。
1957年7月26日，国务院批准，撤销伊春县，设置伊春市（地级），以原伊春县的行政区域为伊春市的行政区域，市人民委员会驻伊春镇。伊春市由省直辖。同年11月20日，省人民委员会通知，撤销原伊春县的伊春、南岔等13个镇和佳林乡的建制，分别设置伊新、南岔、双子河、五营、带岭、翠峦、美溪、浩良河8个市辖区。
1958年2月13日，召开伊春市人民代表大会，正式设置伊春市，撤销伊春县。同年8月，改隶松花江专区。
1960年增设新青、五星、大丰、东风、红星、上甘岭、乌马河、大西林8个市辖区，全市共辖16个区。
1962年12月，将16个区调整为11个区，撤销了东风、红星、上甘岭、乌马河、大西林5个区。翌年4月，撤销五星区，并入五营区。
1964年6月23日，中共中央、国务院批准，撤销伊春市，设置伊春特区，试行“政企合一”的体制，“实行双层领导制度”，有关企业工作以林业部为主，有关地方工作以黑龙江省人民委员会领导为主。同年12月，设置乌敏河、上甘岭、友好、东风、红星5个区，全市共为15个区，基本上是1个林业局1个区，“政企合一”。
1965年4月，撤销伊新区设置伊春镇和伊东区。
1966年4月，撤销伊东区并入乌敏河区。
1967年5月5日，省革命委员会批准，成立伊春市革命委员会，伊春特区随之撤销。同年设立乌伊岭区，将伊春镇改为伊春区。
1969年10月，设置西林区；撤销浩良河区，并入南岔区；撤销双子河区，并入友好区。
1970年4月1日，设置伊春地区，实行地市合一。同时，将黑河地区的嘉荫县和绥化地区的铁力县划归伊春地区管辖。伊春地区由省直辖。是时，伊春地区共辖15区、2县。
1979年12月14日，国务院批准，撤销伊春地区，恢复伊春市（地级），由省直辖。原伊春地区的嘉荫、铁力两县仍归伊春市领导。
1983年12月24日，省人民政府批准，乌敏河区更名为乌马河区，东风区更名为汤旺河区，大丰区更名为金山屯区。
1988年9月13日，国务院批准，撤销铁力县，设立铁力市（县级），由伊春市代管。至此，伊春市共辖15个区，领导1个县，代管1个市。
