先秦时期，阿什河流域是肃慎人居住和活动的地带。
北魏太和十七年，夫余人为勿吉人所逐。阿什河流域是安居骨部勿吉人活动的中心地区。
唐中期阿什河流域为渤海王国属境。后为契丹人所灭。
从契丹族的兴起到辽朝的建立，黑龙江各族大部分被辽征服，在动乱中各族有了分化，出现了女真族。辽朝天祚帝耶律延禧天庆五年，阿骨打称帝，国号大金，建都会宁即今阿城市城南4里许（白城）。
元顺帝时期，金上京会宁府故址为镇宁州。
明后期，金上京会宁府故址一带为女真栋鄂部的一支居位。
清初，称金上京会宁府故址为翁鄂洛城。顺治元年，清朝迁都北京后，为抵御外来的侵略和加强对东北地区
的开发和统治，雍正七年，协领衙门移驻新城即今阿城，新城名阿勒楚喀。宣统元年，裁撤副都统衙门，设阿城县，县名由阿勒楚喀城简化阿城。
1932年被日本侵占，隶属伪满洲国滨江省。
1945年抗日胜利后，10月27日成立松江省阿城县民主政府。
1948年1月5日，阿城县民主政府改为阿城县政府。
1987年2月，经国务院批准，撤县建市，由省会哈尔滨市代管。
2006年8月，经国务院批准，撤销阿城市，设立哈尔滨市阿城区。以原阿城市（不包括永源镇、巨源镇）的行政区域为阿城区的行政区域。阿城区人民政府驻民权大街。
