清代以前
根据考古发现，连江县境内可证实的历史可追溯到新石器时代。春秋战国时期，连江县境属闽越地，秦代属闽中郡，西汉时期历属闽越国、会稽郡、冶县，东汉时属东侯官，三国时期属孙吴建安郡侯官县，设温麻船屯，温麻之名亦自此始。晋太康三年（282年）析侯官县温麻船屯地置温麻县，属晋安郡，为福建最早5个县份之一。隋开皇九年（589年）并入原丰县，开皇十二年（592年）改名闽县。唐武德六年（623年）从闽县析出重置温麻县，同年以城域大江前横，盈盈如束改名连江并沿用至今。天宝元年（742年），县治从伏沙迁移今址凤城，“北枕龙漈，南瞰鳌江”，此地因城域形似展翅南飞的凤凰得名。唐至五代中原大批移民南迁，割据福建的王审知推行鼓励农桑、轻徭薄赋政策，同时开辟甘棠港，连江县域经济得以发展。至宋代，连江进入鼎盛发展时期，推广种植双季水稻，农业产量增加，海洋捕捞和养殖业发展，并以产蛏闻名，海运和贸易较发达；教育曾兴盛一时，理学家朱熹曾到连江讲学，咸淳元年（1265年）一科考中19名进士，为连江史上之最。元代后常受战乱影响，逐渐衰退。明永乐八年（1410年）至嘉靖四十五年（1566年），150余年间，县境屡受倭寇侵掠。嘉靖四十二年（1563年），邑人陈第配合戚继光，在马鼻大破倭寇，倭祸始靖。明代有甘薯、烟叶等外来农作物传入，因县内大量种植甘薯，粮食总量增加。明清嬗代之季，兵连祸结，南明隆武政权、郑氏延平政权与清军在连江数番交战，拉锯争夺，县内士民死者无算。此后清廷闽浙总督姚启圣厉行迁界和海禁，连江沿海居民悉迁内地，田园荒芜5.7万亩，渔业、海运皆受较大影响。及至
，宣统三年九月十九日（1911年11月9日）夜，连江县光复会成员攻入县署，知县周之松缴印出署，清廷在连江的统治结束。
民国时期
民国时期连江县先后属福建省东路道和福建省第一行政督察区，其中曾3次为省直辖县。民国肇始中国即出现军阀割据，连江初为地方军阀李厚基势力范围，民国13年（1924年）后被北洋军阀海军陆战队割据。北伐战争后，县境内的军阀势力被驱逐，连江县由南京国民政府管治。四·一二事件后，国共斗争渐趋激烈，连江亦为国共内战的战场。
民国21年（1932年）6月连江出现中国共产党领导的游击队武装——闽中工农游击队第一支队，进行武装暴动，建立游击根据地。随后连江县政府建立保卫团指挥部，筹建地方常备武装，数次配合正规军，进攻共产党游击根据地。
民国22年（1933年）福建事变中，连江县曾划归中华共和国闽海省管辖，但只维持了53天。
民国24年（1935年），连江县被南昌行营列为重点剿匪区，全面清查户口，编组保甲，设区署和联保，实行“政治清乡、军事围剿”和“移民并村”、“连坐切结”，并在丹阳、透堡等原游击根据地设“特种教育”，清除中共影响。在抗日战争期间，民国30年（1941年）和民国33年（1943年），侵华日军两次占领连江县城，共计达373天，这一期间全县物资匮乏，粮食紧张，物价飞涨，实行粮食统制、计口授盐。
民国34年（1943年）5月，国民革命军陆军第八十师收复连江县城。抗战结束后第二次国共内战旋即爆发。
民国38年（1949年），中国人民解放军渡过长江，进入福建，在淮海战役后败退到闽东北地区的中华民国国军陆军第七十四军开始于连江、福州一带集结防御，二级上将汤恩伯亲临连江重新部署。8月，解放军第三十一军九十三师从古田进入连江境内，8月16日占领连江县城和琯头。国军七十四军在连江之战中伤亡、被俘共3000人以上，二一六师少将师长谷允怀被俘，余部向琅岐和马祖列岛等退却。
1949年以后
民国38年（1949年）9月13日，中国人民解放军第31军93师进驻连江小沧，成立了连江县人民民主政府，后改名连江县人民政府。1949年后，连江县人民政府开始实施大规模的社会改革。私营企业逐步国有化，还进行了多次政治运动。
1953年8月17日，彼时由中国国民党主政的“中华民国政府”在马祖列岛复设连江县政府，连江县从此由两岸分治。双方长期武力对峙，驻军均在万人以上，多次发生武装冲突，规模不等。
1966年5月，文化大革命在连江开始，直到1978年4月。
1979年后，连江开始对文革中受迫害的人士进行平反，海峡两岸关系也逐渐缓和，连江不再作为两岸军事斗争的最前线，经济得以较快发展。
1988年初，经中国国务院批准连江县列入经济开放区。20世纪90年代末开始，连江交通进入大发展时期，迅速构建起包括高速公路、铁路在内的现代交通网络。以此有力的条件为支撑，通过加大招商引资，近几年工商业开始呈现加速增长的趋势。到了2009年5月，中国国务院又公布了支持海峡西岸经济区的决议，许多人认为这一举措将进一步推动连江的经济发展。
中华人民共和国成立后，连江县曾三次（计18年）属闽侯专区，二次（计16年）属福安（宁德）专区，1983年7月1日第二次归属福州市辖区，为福建省福州市下辖的一个县。
