萨尔茨堡在新石器时代就有人居住，公元45年萨尔茨堡获得城市自治权。公元5世纪建成了第一座修道院圣彼得修道院。699年巴伐利亚公爵将萨尔茨堡这座古罗马城市献给了萨尔茨堡的第一任主教鲁佩特主教，以便主教在这块土地上传教，并将新建的圣彼得修道院作为他的住所，鲁佩特成为圣彼得修道院的第一位院长，此后他也成为了萨尔茨堡的主保圣人。
“萨尔茨堡”（德语：Salzburg，意为“盐堡”）这个名字第一次出现是在755年，因附近的盐矿和城堡而得名，萨尔茨堡主教主要的收入来源就是垄断盐的销售。739年萨尔茨堡成为主教的驻地，774年萨尔茨堡大教堂第一次落成。798年4月20日，应法兰克国王查理大帝的请求，教宗利奥三世将萨尔茨堡升格为大主教的驻地，管辖几乎整个老巴伐利亚地区，即下巴伐利亚、上巴伐利亚、上普法尔茨和如今奥地利的大部分地区。此后萨尔茨堡先后曾是属于东法兰克王国、神圣罗马帝国、15世纪后德意志神圣罗马帝国的领地。
萨尔茨堡著名的要塞是由大主教格布哈德从1077年开始建造的，但他并没有亲眼见到要塞的完工，由于格布哈德在1076年的继任权斗争中站在教宗的一边，1077年又曾支持对立国王施瓦本的鲁道夫，因为不忠实于亨利四世，这位大主教在斗争结束后被驱逐，而由亨利四世任命了一位对立大主教。最终是由格布哈德的继任者们完成了萨尔茨堡要塞的工程。
由于大主教巴本堡的康拉德二世在没有经得神圣罗马帝国皇帝腓特烈一世同意的情况下就于1164年掌管了萨尔茨堡，腓特烈一世在1166年派兵，萨尔茨堡被腓特烈一世亲信的军队在1167年4月4日的夜晚严重摧毁。其后的1168年，由腓特烈一世的侄子波希米亚的阿达尔贝特三世[5]出任萨尔茨堡大主教，但在1174年由腓特烈一世授意雷根斯堡议会又将其免职，6月26日由贝希特斯加登的海因里希出任对立大主教，但他并没有获得教宗的认可。1177年签署威尼斯和约后，海因里希和阿达尔贝特三世同时放弃大主教
的职位，由维特尔斯巴赫王朝的康拉德接任，在康拉德1183年应召去美因茨做大主教后，阿达尔贝特三世重新回到萨尔茨堡大主教的座位上，直到他去世。
大主教埃贝哈德二世是霍亨斯陶芬王朝的坚定支持者，他在萨尔茨堡的历史上起着至关重要的作用，他在1200年至1246年间将封建贵族的统治权、司法权和城市的管理权集合一身，大主教成为萨尔茨堡的最高统治者，而他由于出色的执政成绩被誉为“萨尔茨堡之父”。
此后萨尔茨堡的影响力越发重大，从1322年米尔多夫战役以后，萨尔茨堡开始与相邻的巴伐利亚为敌。1328年在大主教的授权下，萨尔茨堡逐渐成为神圣罗马帝国内的一个独立国家。1348年至1349年间遭遇黑死病侵袭，萨尔茨堡损失了约三分之一的人口。1481年神圣罗马帝国皇帝腓特烈三世认可萨尔茨堡享有城市议会和市长的自由选举权。1511年大主教柯茨察赫的莱昂哈德采取强制手段，逮捕萨尔茨堡的市长和议会议员，强迫他们放弃所有城市特权。1524年德国农民战争爆发并蔓延到了奥地利，期间的1525年至1526年，萨尔茨堡也爆发了持续3个月之久的农民和煤矿工人起义，起义农民围攻萨尔茨堡要塞，要求减轻负担、废除农奴制和恢复他们的基本权利。
就在马丁·路德发表《九十五条论纲》，开始新教的宗教改革之后几年，萨尔茨堡的大多数市民已经对新教持宽容的态度，加之市民们对大主教韦伦堡的马特豪斯·朗格专制统治的不满，1525年的农民战争将市民对新教的同情公开化。在1590年前，萨尔茨堡几乎所有信仰新教的家庭被迫背井离乡，而这些家庭中不足15岁的孩子必须留下来，交由天主教家庭领养。1731年大主教菲尔米安的利奥波德·安东制定了所谓的“移民政策”，再次驱逐了2万萨尔茨堡的新教徒，同年的深秋季节，又有4000名女奴和农场工人被逮捕并驱逐，第二年又开始驱逐手工工人和农民，约有四分之一的被驱逐者在放逐的路上死去。直到1740年，幸存的被驱逐者才在普鲁士国王的多次交涉下获得了一部分赔偿。由于驱逐新教徒，萨尔茨堡主教教区的人口大幅减少，造成了灾难性的经济危机。
巴洛克时代
萨尔茨堡的主教府喷泉是中欧最大的巴洛克式喷泉。17世纪初，大主教赖特瑙的沃尔夫·迪特里希认为萨尔茨堡是一座理想的和具有代表性的城市，因此对其大兴土木，萨尔茨堡老城的外貌风格就是从当时留下的。他命令重建了萨尔茨堡大教堂，它在此前的1598年第8次被烧毁，他还修建了米拉贝尔宫。为了同巴伐利亚争夺着盐和关税，沃尔夫·迪特里希在1611年授意占据了巴伐利亚的贝希特斯加登，而巴伐利亚随即占据萨尔茨堡，并决定让霍亨埃姆斯的马尔库斯·西蒂库斯接替沃尔夫·迪特里希，他在1628年完成
了保留至今的大教堂。马尔库斯·西蒂库斯的继任者洛德龙的帕里斯伯爵在三十年战争中采取了明智和谨慎的政治中立策略，使得萨尔茨堡免受战火之苦，与埃贝哈德二世共享“萨尔茨堡之父”（德语：Vater des Vaterlandes）的称号。
1617年萨尔茨堡建立了一所中学，它在1622年被改制成萨尔茨堡大学，设立神学和哲学系，萨尔茨堡大学的成立是大主教反宗教改革的一个重要举措，也大大改善了牧师的教育程度。作曲家莫扎特1756年出生在萨尔茨堡，1769年至1781年为大主教效力。1772年至1803年大主教Hieronymus von Colloredo执政时期，萨尔茨堡成为启蒙运动的中心，教育体系以奥地利作为模板进行了改革，萨尔茨堡吸引了不计其数的学者和艺术家。
政教分离后
萨尔茨堡在神圣罗马帝国时期是其一个独立的大主教教区，直到1803年神圣罗马帝国通过法律，实施政教分离，萨尔茨堡大主教失去了统治地位，萨尔茨堡与弗赖辛和帕骚合并改由弗朗茨二世的兄弟托斯卡纳大公斐迪南三世管辖，并获得选帝侯资格。1805年奥地利人在奥斯特里茨战役中失利后，奥地利的蒂罗尔州被割让给巴伐利亚，作为交换，萨尔茨堡和贝希特斯加登则划归了奥地利。1810年萨尔茨堡再次易主成为巴伐利亚的一部分，1816年维也纳会议后萨尔茨堡归还奥地利，而贝希特斯加登则继续归属巴伐利亚，这个局面一直延续到了今天。1850年萨尔茨堡脱离林茨的管辖获得自治权。
1919年举行了第一次民主选举。
纳粹德国和二战时期
在纳粹德国的统治下，1938年4月30日纳粹分子在萨尔茨堡焚书和逮捕犹太人和不同政见者，同年11月9日“水晶之夜”萨尔茨堡的犹太教堂被毁。
1942年纳粹德国在萨尔茨堡市内建立了战犯集中营，1943年市内山丘上建起了防空洞。
1944年至1945年美国空军在总共15次空袭中摧毁或损坏了萨尔茨堡46%的建筑，7600间民房被毁，14563人流离失所，有超过550人在空袭中丧生。受损最严重的是火车站附近地区和中心城区，包括萨尔茨堡大教堂的穹窿和莫扎特故居，不过除了大教堂与桥梁以外，大部分巴洛克建筑都保存完好，所以萨尔茨堡是仅存的几个保留了原始的巴洛克风格的城市。
第二次世界大战后至今
1945年5月4日美国军队攻占了萨尔茨堡，纳粹德国陆军上校汉斯·莱普尔丁格尔没有抵抗就交出了萨尔茨堡。美军任命里夏德·希尔特曼为萨尔茨堡市市长，阿道夫·舍梅尔为萨尔茨堡州州长，并成立了奥地利社会民主党、奥地利人民党和奥地利共产党。萨尔茨堡解放后，无家可归的难民、犹太人和旅居国外的德国人蜂拥到萨尔茨堡，1946年12月有约13200个难民从东欧和中欧聚集到萨尔茨堡和周边，为了安置这些难民，萨尔茨堡共建造了8座难民营。
1945年8月11日，市民们迎来了二战后的首次萨尔茨堡音乐节，这项创办于1920年的音乐节每年夏天举行，二战时被迫停办。
1945年9月26日萨尔茨堡成为奥地利共和国重建后第一个表示支持和承认维也纳卡尔·伦讷政府的联邦州，萨尔茨堡与上奥地利州和施蒂利亚州的一部分组成了二战后美军在奥地利的占领区，美军最高指挥部就设在萨尔茨堡，最初几周占领当局单方面查抄了萨尔茨堡的许多建筑，但随后便同州政府和市政府合作，萨尔茨堡的市民也和占领当局相安无事。借助马歇尔计划和占领当局的经济援助，萨尔茨堡很快恢复了经济。
