第一说法
这个城市名字的由来是“乌尔萨利亚”(Ulsalia，在拉丁文里是“熊群之地”的意思)，因为在邻近的森林里发现了大量的熊与草莓树(在西班牙语叫做“madrile?o”，从中世纪就做为城市的象征)。
第二说法
西班牙传说古时马德里有大量熊，侵害百姓。一天，一对小朋友在玩捉迷藏，妈妈担心其安全故找他们，一只熊在她身后。小朋友大叫'madre-id ,madre-id' （妈妈，快跑，妈妈，快跑）。
第三说法
而这个城市的古名“马格立特”(Magelit)则来自于公元九年时建立在曼萨纳雷斯河上的堡垒，其名称的意思是“丰水之地”。
第四说法
普遍相信这座城市今名的起源是来自公元前二世纪罗马帝国建立在曼萨纳雷斯河岸上的新拓居地。这第一个村落的名字叫做“马翠斯”(Matlice，是因流过该村落的河流而取的)。而面对接下来在第五世纪时日耳曼的苏维汇人、汪达尔人与奄蔡人的入侵，罗马帝国完全无力保卫它在伊比利半岛上的领土，而也因此造成了西哥特人的大量入侵。这些当时的“蛮族”后来控制了马翠斯。在七世纪时，穆斯林征服了伊比利亚半岛，并将这座城市的名字改为“梅里特”(Maylit)，这个词是由阿拉伯文中“ ???? ”(Mayla)这个词（指如同“森林”或“生命赠与者”的水）和伊比利亚拉丁语中意指“地方”的后缀“it”组合而成。这个名字“Mardrid”则是从莫札勒布语的“Matlit”，这个名词仍做为马德里人的称呼。
马德里中世纪
虽然现时马德里（Madrid）坐落的位置于史前史就已有人活动，但在罗马帝国时期马德里是属于Komplutum教区（现时的埃纳雷斯堡）之内。但关于马德里的第一次历史记载却是9世纪，穆罕默德一世命令于现时马德里皇宫的地址上兴建一座小小的皇宫。环绕皇宫亦兴建了一座堡垒al-Mudaina。邻近皇宫是曼赞拿利斯河，穆斯林称为al-Majlī （阿拉伯语: ???????，“水的来源”）。正因为这条河的名称，人们就将此地命名为Majelit，成为日后Madlid这个字的雏形。1085年在阿方索六世进军托莱多的途中这个堡垒被他征服了。他将该地的清真寺圣化为要塞粮仓的圣母玛利亚教堂（Virgin of Almudena/almudin）。1329年，西班牙的立法部门（Cortes Genelales）首次于此地进行会议
，为斐迪南四世提供治国建议。瑟法底犹太人和摩尔人继续于该市居住直至15世纪被驱逐为止。
在一次大火灾之后，恩里克三世（1379-1406年在位）重建了该市，并将自己安全地置于有城墙保护的帕尔多王宫（El Pardo）内。斐迪南二世与伊莎贝尔一世迁入马德里的盛大欢迎仪式宣布结束了卡斯蒂利亚与阿拉贡的争斗。
马德里复兴时期
首都位于托莱多的卡斯蒂利亚王国与首都位于萨拉戈萨的阿拉贡王国被查理一世结合成现代的西班牙。尽管查理偏袒着马德里，但是他的儿子腓力二世（1527年-1598年在位）才是将王宫迁到马德里的第一人，他在1561年将王宫迁到马德里。虽然他没有官方正式宣布迁都，但是事实上马德里已是西班牙的首都。塞维利亚继续控制西属印度，但马德里却控制着塞维利亚。有一段短时间，1601年-1606年，当腓力三世于巴利亚多利德建立自己的王宫时，马德里的财富就真正反映了西班牙的财富多少。西班牙16及17世纪“黄金世纪”时期，马德里与其它欧洲国家的首都并不相似：马德里的人口在经济上都依赖于王室自己的生意。
文艺复兴时期完结与现代早期的马德里
腓力五世认为马德里作为其中一个欧洲首都，现时的规模绝不适合代表西班牙，所以在他治下马德里大兴土木，包括兴建新的皇宫（包括马德里皇宫）。可是，直至查理三世（1716年-1788年）之前马德里还未成为一个现代城市。查理三世是马德里历史中最著名的一个国王，在他统治的那个时期市民都称：“国王，是最佳的市长”。查理四世（1748年-1819年）成为国王的时候，马德里的市民发生了起义。在他自己的儿子斐迪南七世率领人民起义后，卡洛斯四世退位，但斐迪南七世的统治非常短暂：1808年5月拿破仑的军队攻入了马德里。1808年5月2日（西班牙语Dos de Mayo），马德里的人民起义反抗法军，法军的残暴镇压对法国于西班牙的统治造成持久的影响，并向整个欧洲展示了法国的形象。
西班牙独立战争（1814年）后，斐迪南七世重新统治西班牙，但自由主义者之后发动了军事政变，拉斐尔·德尔列戈要求斐迪南发誓要对宪法给予尊重。这开始了自由与保守政府轮流交替的时期，直到伊莎贝拉二世（1830年-1904年）即位为止。
20世纪的马德里
伊莎贝拉二世登位后未能缓和政治上的紧张局势，这造成了另一次的起义，西班牙第一共和国的建立。君主制恢复后，终于又导致建立西班牙第二共和国及西班牙内战的爆发。于内战时期（1936年-1939年），马德里是其中一个受到重大影响的城市，马德里的街道亦成为了战
争的场地。由1936年7月开始马德里是共和党人的据点。马德里的西面郊区是1936年11月佛朗哥的民族主义军队欲夺取马德里时，共和党人与佛朗哥军队奋战的地区。之后，马德里被围攻接近三年，直至1939年3月投降为止。内战期间马德里是第一个遭受特别针对平民的战略轰炸的城市。
弗朗西斯科·佛朗哥的独裁统治期间，特别于六十年代之后，马德里的南部变得非常工业化，大量人口从农村地区迁徙到城市居住。马德里的东南部成为了一片广阔的贫民区，是一个积极的文化与政府机构的基地。
佛朗哥逝世之后，陆续兴起的一些政党（包括左翼与共和主义思想的政党）接受佛朗哥的要求由胡安·卡洛斯一世继位——以获取政党的长久稳定及实行民主制度——带领西班牙的君主立宪政体踏上正轨。
从1980年代的繁荣时期开始，与伊比利亚半岛上的其它城市比较，西班牙的首都巩固了她于经济、文化、工业、教育及科技的领导地位。
无论从政治上、还是地理上，马德里都是西班牙的中心。南欧高原炽烈的
阳光给了马德里热情似火的气质，也许不甚优雅，但热辣的眼神令她与欧洲任何一个国家的首都相比都毫不逊色。
马德里的辉煌史仅始于卡斯蒂利亚王国建都，远不如西班牙众多城市久远。但只有在马德里的博物馆里，才能看到西班牙各个时代的精华凝聚；也只有在马德里的街巷中，才能感受到西班牙各个民族文化的交融。更不用说马德里周围遍布的古镇乡村，都在吸引着游人去寻幽览胜。
