虎林县，由横贯县境中部之七虎林河而得名。七虎林，系满语“稀忽林”之转音，为“沙鸥”之意。清代，属宁古塔副都统辖区。
放荒开垦，1902年（清光绪二十八年），在呢吗口（今虎头镇，与俄罗斯境内呢吗河口即今伊曼河口相对）设招垦分局。呢吗，满语“山羊”之意。
1909年8月24日（清宣统元年七月初九日），吉林巡抚奏准于“密山府属呢吗口地方”，设置呢吗厅。翌年4月18日（清宣统二年三月初九日），吉林巡抚奏称：“呢吗口本因俄国境内之呢吗河西流，汇于该处，故有斯名。今设同知一缺，若仍循旧时称谓，深恐日久沿讹，国界未易分晰。查该处本在七虎林河之南，拟请定为虎林厅，以符名实，而垂久远。”同年5月（农历四月）批准，将呢吗厅改为虎林厅，隶属吉林行省东北路道。中华民国成立后，1913年3月，改为虎林县，仍驻呢吗口（称虎林县城）。
1914年6月，隶属依兰道。
1929年2月，撤销道区，由吉林省直辖。时为三等县，全县2．59万人。东北沦陷后，初隶吉林省，1934年12月划归滨江省管辖。
1937年7月，改归新设之牡丹江省。
1938年8月5日，伪虎林县公署移驻安乐镇（原名东街基，又称黑嘴子），并将安乐镇改为“虎林”（今虎林镇），原县公署驻地改为“虎头”。
1939年6月，划归新设之东安省管辖。
1943年10月，隶属东满总省，1945年5月改隶东满省。
1945年“九三”抗日战争胜利后，虎林县划归合江省管辖。
1946年6月，划归新设立的东安专区管辖。
1947年10月，改隶牡丹江省。
1948年7月，复由合江省直辖。
1949年5月，改隶松江省管辖。
1954年8月，松、黑两省合并，由黑龙江省直辖。
1956年3月，划归新设立的牡丹江专区管辖。
1960年1月7日，国务院决定，将虎林、饶河两县合并为虎饶县，县人民委员会驻虎林镇，隶属牡丹江专区。
1962年11月，改隶合江专区。
1964年6月5日，国务院决定，撤销虎饶县，恢复虎林县和饶河县，10月10日两县正式分开。虎林县址设于虎林镇，仍隶于合江专区。
1970年4月，划归牡丹江地区管辖。
1983年9月，撤销牡丹江地区，改由牡丹江市领导。
1992年，虎林县位于黑龙江省东南部，乌苏里江上游西岸。县境北抵饶河县，南达密山市，西邻宝清县，东隔乌苏里江、松阿察河与俄罗斯隔水相望。边境线长318公里，是黑龙江省边境县之一。全县总面积9330平方公里。全县共辖17个乡、镇。
1992年末全县总人口28万人，其中非农业人口14万人，占总人口的50%。在总人口中，县属乡镇人口13．7万余人，国营农场系统9万余人，森工系统5．1万余人；汉族人口26．8万余人，满、朝鲜、蒙古、回、苗、布依等少数民族人口1．1万余人。县政府驻地虎林镇。
