1928年春,中央研究院历史语言研究所吴金鼎于此做考古调查时,发现此地有远古遗存。1930年和1931年,中央研究院对此遗址进行发掘,发现有板筑城垣,因此名之“城子崖”。遗址南北长530米,东西宽430米。文化层4~6米,分上下二层。上层出土的有豆、鬲等灰陶器物和铜质兵器等,属商周战国文化。下层出土大量的新石器时代中晚期石器、骨器、蚌器和陶器。陶器以泥质加沙黑陶为主,有鼎、鬲、豆、瓮、盆、杯等,特别是黑陶,质地坚硬,薄如蛋壳,造型精美,可谓该文化的代表。因地处龙山镇,并完全不同于以彩陶、红陶为特征的仰韶文化,便定名为‘龙山文化”。此次发掘,是中国早期近代意义上的重大考古发掘活动,是全国发现并挖掘的第一处新石器时代遗址,在中国考古学界占有极为重要的历史地位。
1990年4月,山东省考古研究所又对该遗址进一步发掘,发现龙山文化、夏代、周代城址和岳石文化堆积,填补了中国夏代城址考古之空白,再次引起海内外学术界的重视,分别被评为全国1990年和“七五”期间十大考古新发现。1991年,在考古发掘现场建成城子崖遗址博物馆,供人们研究、观览。