神户的历史可追溯至旧石器时代，在神户市内多地都发现了旧石器时代和绳文时代的文物。进入弥生时代后，随之稻作技术和金属器的传入，神户的人口进一步增加。据日本书纪记载，神户三大神社中的生田神社和长田神社都是始建于弥生时代的后期。而在古坟时代之后，随之豪族的兴起，在日本各地开始出现巨大的前方后圆坟。神户市内最为著名的古坟是五色冢古坟，这处古坟也是兵库县内最大的古坟，也显示在这一时期神户的已经有一定程度的文明发展。在奈良时代，当时的朝廷在兵库区修建大轮田泊，开始了神户作为港口的历史。大轮田泊是摄播五泊之一，是当时日本重要的贸易据点。然而在平安时代后期，由于国家财政无力改修港口，大轮田泊陷入荒废。
大轮田泊的萧条状况在平氏政权兴起后发生了巨大的变化。平清盛在大轮田泊修筑人工岛经岛，试图将大轮田泊发展为日宋贸易的据点。1180年（继体天皇元年），平清盛更强行宣布迁都福原京，其位置位于神户市的中央区和兵库区北部。然而由于反对势力过于强大，福原迁都只实施了半年后日本的首都就迁回平安京。平氏政权也在平清盛去世后迅速崩溃，而神户更是平氏政权瓦解过程中重要战役一之谷之战的战场。福原京的修筑虽可说是仅停留在计划层面，然而在镰仓时代初期，高僧重源又重振了大轮田泊的港口。在镰仓幕府时代，神户的人口大多居住在兵库区一带，这一地区被称为兵库津，是当时日本重要的港口。在14世纪前期这一自建武新政转换至室町幕府的剧变时期，神户是凑川之战的舞台。也是在同一时期开始，除了嘉吉之乱至应仁之乱之间的20多年间神户曾由山名氏统治之外，神户进入了约200年的赤松氏统治时期。1591年（承平元年），结束战国乱世实现日本统一大业的丰臣秀吉在神户郊外的有马温泉举办有马大茶会。
在江户时代，神户的主要市区仍然在兵库津一带。当时的兵库津是自西日本前往北海道的北前船的重要据点港口，同时也是西国街道重要的宿场町。
开港至二战期间的神户
在江户幕府末期，日本在欧美的压力之下被迫打开国门。1858年，幕府与美英法俄荷五国签订安政五国条约，条约规定开放五个港口为通商港口。列强虽本欲选择已有一定规模的兵库津作为关西地区的开放港口，然因兵库津排外风气甚盛加上兵库津附近的神户村的沿岸水深较深适合建港，因此神户村即成为五个开放港口的其中之一。
1868年（明治元年），神户正式开港。当时神户的港口以凑川为界，凑川以西的港区主要由日本船舶利用，被称为兵库港；以西则是主要由外国船舶利用，被称为神户港。两港在1892年（明治25年）实现统合，统称为神户港。市区也同样以凑川为界，凑川以西的兵库是旧市区，而凑川以东的神户则有较多外国人居住，使得当时的神户呈现双子都市的格局。
随着市区范围的逐渐地扩大，两大市区合二为一，市中心也逐渐往东侧的神户移动，而“神户”也成为包括兵库在内的全市的正式名称。在神户开港的同时，神户市内还开辟了专供外国人居住的神户外国人居留地。神户居留地是日本最早实施近代都市计划的地区之一，运营也全由外国人自治，其都市经营的方式给日本其他都市也带来巨大影响。众多外国教堂、银行、企业和领事馆集中于此，神户居留地成为当时日本最国际化的地区之一。1899年（明治32年），随着日本废除治外法权，居留地制度也被废止，神户外国人居留地重新由日本管理，然而其神户市中心市区的地位仍维持至今。作为西洋文明在日本的窗口，神户在东西文化交流中发挥了重要的作用。日本首个铁路隧道、首个咖啡厅、首瓶波子汽水、首个水族馆、首个高尔夫球场 、首个日本国内生产的蒸汽机车、首个爵士乐队等众多新事物都是出现在神户。1889年，神户施行市制，成为日本最早的一批市。
进入20世纪后，神户市仍然持续快速发展。
1905年（明治38年），阪神电气铁道开通了神户（三宫站）至大阪（出入桥站）的铁路，这是日本首条都市间铁路。随着铁路的开通，神户和大阪之间的经济活动变得更为活跃，更开启了阪神间摩登的时代。同样在20世纪前期，随着筑港事业的进展，神户成长为远东最为重要的港口之一。
1920年（大正9年），神户港开通了前往美国的航路。在大正及昭和初期，神户和伦敦、纽约、汉堡并列为世界四大海运市场。然而在1930年（昭和五年）之后，随着日本开始步入战争轨道，神户的发展也受到重大的影响。
1938年（昭和13年），神户受到阪神大水害的侵袭，市内有超过600人在水害中遇难。在二战末期，神户多次受到美军的空袭，其中又尤以1945年（昭和20年）3月17日和6月5日的空袭最为惨烈。神户市超过20%的市区面积在空袭中被毁，并且至少有8,841名市民因空袭遇难，受伤者则超过15万人。神户是当时日本大都市中受美军空袭损害最严重的都市。
战后神户
在二战结束之后，神户很快就走上了复兴的过程。造船、钢铁等重工业成为神户新的支柱产业，使得神户在战后发展为日本重要的工业都市。
1956年，神户成为日本首批政令指定都市。神户市还在这一年举办了国民体育大会。在1960年代，神户港迎来了其开港100年纪念，神户港的面貌也随着神户的地标建筑神户港塔的完工以及港湾人工岛的开工发生剧变。由于神户市中心市区面积狭小，自1960年代开始，神户市开始挖掘丘陵以建造新市镇，并且将挖出的土壤用于填海以建设海上新都市。
1970年代，随着山阳新干线的开通、神户祭的举办和NHK电视剧风见鸡的播出，神户的旅游产业有了很大的发展。在1971年，神户市电被废止，取而代之的是在1979年，神户的首条地铁路线开始通车，标志神户市内的交通发生了巨大的变化。
1981年，港湾人工岛第一期工程完工。神户市在工程完工之后举办了港湾人工岛博览会，其参观者数超过1610万且盈利超过60亿日元，取得了巨大的成功。
1985年，神户举办了世界大学生运动会，大型体育赛事的举办也更加提高了神户在世界上的知名度。
1995年1月17日，在神户市近海发生了阪神淡路大地震。神户市内部分地区的烈度达到7级，市内死者人数多达4,571人，受灾情况极为严重。地震虽然神户受到了巨大的打击，然而也意味神户新的复兴的开始。交通网的整备是神户震后复兴的重要内容。明石海峡大桥的开通使得神户市和淡路岛之间的交通情况得到了大幅改进。而神户机场的开业使得神户成为拥有海空双港的城市。然而神户的震后复兴也同样面临诸多问题。诸如长田等因地震严重受损的街区虽然在震后实施了都市更新事业，然而因人口减少等问题使得开发事业停滞不前。在进入21世纪之后，神户市在2008年被联合国教科文组织评选为设计都市，是亚洲首个获此殊荣的城市。医疗产业现已发展成为神户新的重要产业。神户正试图发展除了传统的港口和工业之外新的支柱产业，这使得神户的经济构造趋于多样化。
神户是一个风景秀丽的国际贸易港口大城市，由于曾受到来自西方文化的影响，所以充满了东西合璧的风情。从高处鸟瞰，整个神户大大小小的房屋都密密地散落在在六甲山起伏的山岗中间，显得错落有致。与国内高耸的居民建筑不同，这个城市的房屋虽然相隔较密，但少有林立的高楼大厦，所以显得和谐而精致。神户拥有三宫、元町、海湾区及北野、南京街等众多的繁华街道,并且这些街道各有独到之处。
