根据考古发现，连江县境内可证实的历史可追溯到新石器时代。春秋战国时期，连江县境属闽越地，秦代属闽中郡， 西汉时期历属闽越国、会稽郡、冶县，东汉时属东侯官，三国时期属孙吴建安郡侯官县，设温麻船屯，温麻之名亦自此始。晋太康三年（282年）析侯官县温麻船屯地置温麻县，属晋安郡，为福建最早5个县份之一,后撤销
隋开皇九年（589年）并入原丰县，开皇十二年（592年）改名闽县。唐武德六年（623年）从闽县析出重置温麻县，同年改名连江县。 同年以城域大江前横，盈盈如束改名连江并沿用至今。天宝元年（742年），县治从伏沙迁移今址凤城，“北枕龙漈，南瞰鳌江”，此地因城域形似展翅南飞的凤凰得名。
唐至五代中原大批移民南迁，割据福建的王审知推行鼓励农桑、轻徭薄赋政策，同时开辟甘棠港，连江县域经济得以发展。
至宋代，连江进入鼎盛发展时期，推广种植双季水稻，农业产量增加，海洋捕捞和养殖业发展，并以产蛏闻名，海运和贸易较发达；教育曾兴盛一时，理学家朱熹曾到连江讲学，咸淳元年（1265年）一科考中19名进士，为连江史上之最。
五代十国时期， 后梁开平三年(909年)，王审知称闽王，闽国贞明六年(920年)升福州为大都督府，连江仍属之。
闽国同光三年(925年)十二月，王审知卒，子延翰立，称威武军留后，连江属之。
闽国天成四年(929年)十月，延翰自称闽王，十二月被王审知养子延禀所杀，延翰弟延钧继，寻封闽王。连江属之。
闽国长兴四年(933年)，王延钧称帝，改元龙启，升福州为长乐府，连江隶属不变。
闽国通文六年(939年)，王审知少子延羲杀继鹏自立，改元永隆，翌年称大闽皇。连江属之。
闽国天德三年(945年)，延政以福州为东都，改国号为闽。八月王氏亡，复名福州。连江隶属不变。
吴越国文德十八年(947年)，福州为吴越国占领，连江县属吴越福州威武军。
吴越国文德二十一年(951年)，改福州威武军为新武军，连江属之。
北宋，太平兴国三年(978年)，复以福州为威武军，连江属之。
南宋，景炎元年(1276年)，升福州为福安府，连江属之。
元，至元十五年(1278年)，元兵侵入福州后，初设福建中书省，寻废，改福安府为福州路，连江均属之。至正二十六年(1366年)，连江属福建行省福州路。
明，洪武元年(1368年)，福州路改为福州府，连江属之。
南明 隆武元年(1645年)，连江属天兴府。
清，连江属福建省宁福道福州府。
中华民国元年(1912年)，废府留道，连江属东路道(后改闽海道)。
民国14年，道废，连江为福建省直辖县。
民国初期区划沿袭清制。受辛亥革命影响，在县内划分为自治区
民国22年11月，国民革命军第十九路军发动福建事变，在福州成立中华共和国人民革命政府，福建划为4个省2个特别市，连江属闽海省。翌年1月事变失败，连江再度为省直辖县。
民国25年(1936年)12月12日，东涌岛从闽侯县划到连江县。
民国26年2月13日，琯头的新道、拱屿、塘头、竹岐、阳岐、山兜、塘边、溪边8个乡及川石、壶江两岛，从闽侯县划到 连江县。
民国30年2月3日，连江第二区巽北乡(巽屿、北山)及所属7个保划属罗源县辖。
民国36年，福建重划7个督察区，连江三度为省直辖县。
民国34年9月，国民政府对乡镇保甲进行复查整理，正式宣布撤销区署建制，至翌年初编查结束，
民国38年9月，连江隶福建省人民政府第四行政督察专员公署，驻地林森县
1950年改名闽侯专区公署。
1956年6月，闽侯专署撤销，连江改属福安专区公署
1959年8月，恢复闽侯专区公署，连江复属之。
1961年11月，连江从闽侯专署划到福州。
1963年8月，连江再回属闽侯专区公署。
1954年8月30日，西洋岛划归霞浦县辖。
1956年5月15日，经福建省人民委员会批准，罗源县上杭乡的叶洋、漈头两村划属连江县辖。5月22日移接时只移漈头村，归丹阳文朱乡。叶洋村因山场、水利等原因仍归罗源县辖。
1956年6月25日，闽侯专区闽侯县琅岐岛的闽琅镇及吴屿、金沙、龙凤、云龙、公婆等5个乡划到连江县辖。同年10月15日划回闽侯县辖。
1959年8月8日，闽侯专区恢复，闽侯又归其管辖。
1970年，闽侯县改隶莆田地区。
1961年11月，从闽侯专区 闽侯县划 县建新、亭江、琅岐、北峰4个公社划到福州郊区。
1970年2月17日，闽侯专区革委会机关由闽侯螺洲迁莆田城厢，1971年4月13日，改闽侯专区为莆田专区；同年6月1日改莆田专区为莆田地区，闽侯县和连江县隶属莆田专区和莆田地区。
1970年7月1日，福州郊区琅岐公社再次划属莆田地区连江县辖。
1970年7月，连江再度划属福安专区，翌年迁址改名宁德地区。
1975年12月15日琅岐公社再次从宁德地区连江县又划到福州郊区。
1983年7月，连江从宁德地区划到福州至今。
元代后常受战乱影响，逐渐衰退。明永乐八年（1410年）至嘉靖四十五年（1566年），150余年间，县境屡受倭寇侵掠。嘉靖四十二年（1563年），邑人陈第配合戚继光，在马鼻大破倭寇，倭祸始靖。明代有甘薯、烟叶等外来农作物传入， 因县内大量种植甘薯，粮食总量增加。明清嬗代之季，兵连祸结，南明隆武政权、郑氏延平政权与清军在连江数番交战，拉锯争夺，县内士民死者无算。此后清廷闽浙总督姚启圣厉行迁界和海禁， 连江沿海居民悉迁内地，田园荒芜5.7万亩，渔业、海运皆受较大影响。 及至
，宣统三年九月十九日（1911年11月9日）夜，连江县光复会成员攻入县署，知县周之松缴印出署，清廷在连江的统治结束。
连江县民国时期
民国时期连江县先后属福建省东路道和福建省第一行政督察区，其中曾3次为省直辖县。
民国肇始中国即出现军阀割据，连江初为地方军阀李厚基势力范围，民国13年（1924年）后被北洋军阀海军陆战队割据。北伐战争后，县境内的军阀势力被驱逐，连江县由南京国民政府管治。四·一二事件后，国共斗争渐趋激烈，连江亦为国共内战的战场。
民国21年（1932年）6月连江出现中国共产党领导的游击队武装——闽中工农游击队第一支队，进行武装暴动，建立游击根据地。随后连江县政府建立保卫团指挥部，筹建地方常备武装，数次配合正规军，进攻共产党游击根据地。
民国22年（1933年）福建事变中，连江县曾划归中华共和国闽海省管辖，但只维持了53天。
民国24年（1935年），连江县被南昌行营列为重点剿匪区，全面清查户口，编组保甲，设区署和联保，实行“政治清乡、军事围剿”和“移民并村”、“连坐切结”，并在丹阳、透堡等原游击根据地设“特种教育”，清除中共影响。在抗日战争期间，民国30年（1941年）和民国33年（1943年），侵华日军两次占领连江县城，共计达373天，这一期间全县物资匮乏，粮食紧张，物价飞涨，实行粮食统制、计口授盐。
民国34年（1943年）5月，国民革命军陆军第八十师收复连江县城。抗战结束后第二次国共内战旋即爆发。
民国38年（1949年），中国人民解放军渡过长江，进入福建，在淮海战役后败退到闽东北地区的中华民国国军陆军第七十四军开始于连江、福州一带集结防御，二级上将汤恩伯亲临连江重新部署。8月，解放军第三十一军九十三师从古田进入连江境内，8月16日占领连江县城和琯头。国军七十四军在连江之战中伤亡、被俘共3000人以上，二一六师少将师长谷允怀被俘，余部向琅岐和马祖列岛等退却。
连江县1949年以后
民国38年（1949年）9月13日，中国人民解放军第31军93师进驻连江小沧，成立了连江县人民民主政府，后改名连江县人民政府。
1949年后，连江县人民政府开始实施大规模的社会改革。私营企业逐步国有化，还进行了多次政治运动。
1953年8月17日，彼时由中国国民党主政的“中华民国政府”在马祖列岛复设连江县政府，连江县从此由两岸分治。双方长期武力对峙，驻军均在万人以上，多次发生武装冲突，规模不等。
1966年5月，文化大革命在连江开始，直到1978年4月。
1979年后，海峡两岸关系也逐渐缓和，连江不再作为两岸军事斗争的最前线，经济得以较快发展。
1988年初，经中国国务院批准连江县列入经济开放区。 20世纪90年代末开始，连江交通进入大发展时期，迅速构建起包括高速公路、铁路在内的现代交通网络。以此有力的条件为支撑，通过加大招商引资，近几年工商业开始呈现加速增长的趋势。到了2009年5月，中国国务院又公布了支持海峡西岸经济区的决议，许多人认为这一举措将进一步推动连江的经济发展。
1949年十月后，连江县曾三次（计18年）属闽侯专区，二次（计16年）属福安（宁德）专区，1983年7月1日第二次划到福州，为福建福州代辖的一个县。
