牡丹江流域的古代先民在漫长的历史变革中，由于各个朝代的更替，其称呼也不尽相同。在夏、商、周时期，被称为肃慎、息慎和稷慎。在两汉、魏晋时期，肃慎人改称为“挹娄”。南北朝时期，挹娄人又转称勿吉。隋唐时期，勿吉又转称靺鞨，靺鞨族当时分为七个部落，其中佛涅部居张广才岭东牡丹江和宁安境内，呈宝部居绥芬河流域。五代时靺鞨族改称女真，居住在牡丹江流域的旧日渤海国边民被称为生女真。到了清朝皇太极即位后，便将族名定为“满洲”，称为满洲族，简称满族，由此牡丹江流域的土著居民又称为满族。
公元698年，粟末靺鞨族首领大祚荣在牡丹江上游敦化敖东城建立了“震国”，史称“旧国”。
公元705年，大祚荣受招唐朝改国号为“渤海”，正式成为唐朝管辖下的地方自治政权。
公元755年，大祚荣之孙，渤海三世王大钦茂将国都迁到今天宁安市渤海镇，定首都名为上京龙泉府。渤海强盛时期设五京十五府六十二州，疆域包括今吉林省、黑龙江省的大部，辽宁省少部以及俄罗斯滨海地区和朝鲜咸镜北道、两江道、慈江道及平安北道的一部分，幅员五千余里，有户十余万，常备兵数万，号称“海东盛国”。公元十世纪初，渤海国开始衰落。
公元926年，契丹攻占上京龙泉府。渤海末王大湮撰率众出城投降，渤海国灭亡。
公元928年，契丹将渤海国王族及城内居民迁到契丹腹地今辽南地区，为使渤海人忘其国土，临行前放火将渤海故都化为灰烬。渤海国从698年建国到926年灭亡，共传十五世，历时229年。
公元十二世纪初，女真完颜部崛起。据《金史·本记第一》记载：“始祖居完颜部仆干水之涯”，仆干水就是今天的牡丹江，女真完颜部最早就是居住在这里。
公元1115年，完颜阿骨打建立金国，今宁安、海林、穆棱及牡丹江市区均属金代胡里改路管辖。
公元1234年，蒙古帝国灭金。牡丹江流域女真族归于元朝政府统治之下。
公元1368年，元朝灭亡，明朝建立，建洲女真分布在牡丹江、绥芬河、长白山一带。
明永乐八年（1410年），建州女真斡朵里部酋长努尔哈赤六世祖爱新觉罗·孟特穆率部从牡丹江西岸南行至宁古塔（今海林市旧街乡）定居下来，这一支女真在历史上被专称为建州女真。十年以后，他们东进至今俄罗斯双城子对面克拉斯诺雅尔山城定居下来，再后来又经过多次迁移，最后定都于新宾的赫图阿拉。明朝后期，建州女真日益强大，努尔哈赤相继统一了建洲诸部和海西女真四部。
1608年，努尔哈赤派兵进驻宁古塔旧城，并以此为基地征服了今兴凯湖、三岔口、乌苏里斯克、穆棱、宁安、密山、珲春等地的女真部落。
1666年，宁古塔将军巴海率部在今宁安市宁安镇修建新城，同年12月驻
地迁往新城，原来的旧址便被称为“旧城”或“旧街”，宁古塔旧城作为清朝各级章京驻地和治所，自1636年至1666年前后共存30年。
清王朝入主中原后，长期对东北实行封禁政策。后来，为了稳定政权，继续扩张中原地区的疆域，清王朝从顺治到康熙年间不断往宁古塔一带拨民和安置有战功的八旗官兵及其家属，汉族人逐渐增多。宁古塔迁往新城后，宁古塔作为清朝政府的流放地，先后有大批被朝迁罢职、刻黜的官员和一些有学识的文士被“谪戍”或“遗戍”到这里。他们的到来，对传播中原文化，加速民族融合、开发建设边疆都做出了积极贡献。
牡丹江近现代历史
1860年，清政府开始对东北地区局部解禁。1881年，清政府开放了宁古塔管辖下的铁岭河，1904年，牡丹江流域全部开禁，大批汉族人进入了这一地区。
到了二十世纪初，今天的牡丹江市还是一片人烟稀少、土地荒芜的地区，当时的地图记载这一带叫“黄花甸子”，因有大片黄花点缀于草地上而得名，仅有四、五户人家分散居住，属于宁安第五区管辖。
1903年，沙俄修筑的中东铁路在牡丹江沿岸修建了一座车站，因车站南临牡丹江，便为车站命名为牡丹江车站，这便是今日牡丹江的雏形。从此，人口不断增加，牡丹江站开始迅速发展。
1907年，清政府将东三省将军制改为行省制，牡丹江境域属吉林省宁安府管辖。
民国初年，牡丹江地域沿袭清制，仍归吉林管辖。
1932年5月，日本侵略军占领牡丹江站等地，1937年1月，成立伪牡丹江省公署，辖宁安、穆棱、东宁、密山、虎林五县。同年12月1日，正式成立伪牡丹江市公署，当时的牡丹江省共辖5县1市，省会设在牡丹江。
1945年8月14日，苏联红军进驻牡丹江。日本侵略者败退，伪东满省公署和牡丹江市公署同时解体。同年8月18日，在苏联红军的帮助下，成立了牡丹江市地方治安维持会。受东北党委员会派抗联干部20余人进入牡丹江市，建立了牡丹江卫戍司令部，维持刚解放的地方治安。
1945年10月14日，在中共领导下的民主政府成立，军区司令员李荆璞担任市长。随后延安干部团团长张闻天等高级干部陆续到达牡丹江市，张闻天同志以中共中央东北及驻牡丹江地区代表的身份，指挥和领导了这里的工作。
