横滨的起源在文献记载上可以追溯到11世纪。据说横滨出身于桓武平氏，由平良文子孙的一支---平子氏统治。这一统治一直持续到16世纪。
到了12世纪的镰仓时代，横滨地区得到了进一步地开发，北条氏在金泽建造了称名寺和金泽文库，佐佐木泰纲则在小机开垦了水田。
其后，在江户幕府的统治下，大部分是旗本领或幕府直辖的天领，但作为大名领，有金泽的六浦藩。
1601年，继神奈川、保土之谷之后，1604年户冢成为东海道的驿站，到了19世纪初期，人口得以增加，神奈川已与城下町小田原并驾齐驱了。
在江户时代，江户幕府发展东海道的宿场。著名的宿场包括神奈川宿、程谷宿（保士谷宿）以及户冢宿。特别是神奈川宿靠近东京湾的要冲而更为繁荣。在江户时代的横滨村是一个住户家庭不到100个的小渔村。1854年（安政元年）与幕府没有邦交的美国马休·佩里率领黑船来到日本，在六浦藩小柴村强行抛锚。幕府派使者交涉，双方在横滨村进行和谈。双方签署了神奈川条约，四年后签署日美修好通商条约，条约内容是将神奈川港开放，成为横滨开发的序幕。
1859年7月1日（安政6年6月2日），横滨港正式对外启用，横滨市将6月2日定为开港纪念日。横滨成为了对外开放的门户，发展成富有外地特色的城市。在税关以南是外国人居住区，税关以北是日本人居住地区。横滨港成为了生丝贸易港、商业港、旅客港以及是工业港。
1889年日本实行市制，横滨市亦正式设立。当时面积只围绕横滨港的5.4平方公里（经过多次扩张及填海后，现时达437.38平方公里）。其后发展为关内地区的市政及商业中心。
1923年关东大地震，横滨市是重灾区之一，所有外国使馆在这次地震中倒下。在地震后新兴建山下公园以及横滨三塔，1929年横滨市大致回复原有的面貌。
1926年4月，横滨市设区，分别设鹤见区、神奈川区、中区、保土谷区及矶子区。
1945年横滨遭到美军战机的空袭，受到重创。战后横滨港被盟军接收。驻日盟军总司令曾在横滨市的税关大厦驻留（后迁移至东京都第一生命大厦），战后发展较迟，原因是被盟军用作军事据点。直到1950年才得到真正的重建。
1989年在纪念设市100周年及以开港130周年的同时，举办了横滨博览会。
1993年象征横滨港未来21的摩天大楼横滨地标大厦建成。
1998年全日本容纳最多观众体育场横滨国际综合竞技场完成，这个球场是2002年世界杯足球赛决赛举行球场，同年亦举办了泛太平洋游泳锦标赛。
2010年11月13日至14日举行亚洲太平洋经济合作组织会议。
