富锦，原名“富克锦”，由明代“弗提卫”或“福题希卫”转音。清代称“富提新”（又作“福替新”）、“福题希”，赫哲语，意为“高岗”。
，汉语称“富克锦”。
周属南慎部，唐属黑水都督府，辽属东京道女真五国部，金属上京胡里改路，元属辽阳行省水达达路。
明永乐七年（1409年）设弗提卫。明王朝建立后，为了进一步加强边防，于奴儿干都司建立前后，又继续增设卫所。其中弗提卫就是永乐七年（1409年）五月乙酉设置，以部人塔失为指挥，归奴尔干都司管辖，卫所建在今大屯古城。
清光绪八年（1882年）设富克锦协领。吉林将军铭安因赫哲兵调赴甘肃有战功，奏设富克锦协领，归三姓（今依兰县）副都统管辖，协领衙门设在嘎尔当屯。
光绪三十一年（1905年）十月初四日，于拉哈苏苏（今同江县）置临江州。临江州州官员吴士潋派周霞村为设治员，来富克锦建立设治局。富克锦设治局归临江州管辖。
光绪三十四年（1908年）改富克锦设治局为富克锦分防巡检，周霞村为分防巡检，亦归临江州管辖。
宣统元年（1909年）四月十五日，以富克锦分防巡检升改富锦县，属吉林省临江府（今同江县）。八月甲申，于依兰府置东北路道，富锦县直属东北路道。
民国2年（1913年）富锦县属依兰道统辖。
民国17年（1928年）废依兰道，富锦县直属于吉林省。
民国21年（1932年）6月，日本帝国主义侵略富锦，在日本侵略军的操纵下成立伪富锦县公署：伪满康德元年（1934年）12月1日，伪满政府将东北划分14省，1个特区，2个特别市，富锦县归伪三江省管辖。
1945年8月12日由苏联红军与东北抗日联军共同解放富锦，是年8月13日至10月为无政府时期，群众称为“乱八地时期”。这期间，8月13日由当地的伪官吏、乡绅组织了“富锦县临时治安维持会”，一些伪官吏与乡绅妄图等待国民党接受富锦时借机上台。9月12日由一些曾失掉中国共产党组织关系的抗联战士建立了“富锦县解放委员会”（10月初改为富锦民主同盟）。10月8日成立了富锦国民党部。10月末，中共党员杨振魁等来富锦接管富锦县工作。11月末，中共党员孙为等由延安来富锦成立富锦地区专员公署。
1945年“九三”抗战胜利后，划归合江省管辖。
1946年1月，合江省于富锦县城设立富锦专区，管辖富锦等6县。
1946年6月1日，撤销富锦专区，同时合江省政府决定，将西南部的集贤、三道岗地区划出，设置集贤县。
1947年11月，将西部的新城区划归桦川县管辖。
1949年1月6日，合江省政府令，将同江县并入富锦县，并划为同江区。
1949年5月，合江省并入松江省，富锦县隶属松江省。
1949年6月23日，东北行政委员会批准，将绥滨县并入富锦县。
1954年8月，松、黑两省合并后，富锦县隶属黑龙江省合江专区。
1959年4月24日，省人民委员会决定，将富锦县的同江区划归抚远县管辖。
1963年12月30日，国务院批准，将松花江北绥滨地区划出，恢复绥滨县。
1964年3月，富锦、绥滨两县正式分开。
1985年1月，合江地区与佳木斯市合并，划归佳木斯市领导。
1988年8月30日，国务院批准，撤销富锦县，设立富锦市（县级），为省辖市，由佳木斯市代管。
