7世纪靺鞨诸部形成渤海国，但黑龙江流域的黑水靺鞨部单独建国。
11世纪契丹人统治这一地区。
12世纪靺鞨人的后代女真人在首领完颜阿骨打的带领下建国。
13世纪蒙古占领这一地区。
14世纪蒙古势力被驱逐，女真诸部落臣服于明朝。
17世纪俄国和清朝就这一地区的主权问题发生争端，经过数场战斗以后，于1689年签订尼布楚条约，该地区归属清朝。
19世纪俄国再次入侵该地区，第二次鸦片战争期间，沙俄逼迫清政府签订中俄《瑷珲条约》（1858年5月28日），割占了黑龙江以北六十多万平方公里土地，今犹太自治州辖区即在其中。
1917年十月革命爆发后，这里被布尔什维克革命势力侵占，后由远东共和国管辖。
20世纪20年代由于犹太国建区建立才开动大规模移民。
斯大林考虑到俄罗斯远东地区与清朝历史上的关系，急需增加人口，且建立犹太自治州对于生活在原苏联的200多万犹太人来说具有客观必要性。
1921年在苏联最高苏维埃民族问题主席团委员会的领导下，创立了由斯米多维奇领导的犹太劳动者土地制度委员会，其任务是为犹太人的迁移寻找地点，而原苏联境内的犹太人希望去克里米亚，那里地理环境非常优越，适合耕垦。
1928年3月28日，俄罗斯苏维埃联邦社会主义共和国中央执行委员会主席团通过了《关于远东边疆区阿穆尔沿岸地带的空闲土地划归犹太族劳动者土地规划委员会以供犹太族劳动者集中居住》的决议，并确定在条件充分的情况下，将于阿穆尔沿岸地带设立犹太民族行政区。
1930年8月20日，俄罗斯苏维埃联邦社会主义共和国中央执行委员会通过了《关于在远东边疆区组建比罗比詹民族区》的决议。
1932年，比罗比詹民族区最早的犹太居民点季洪卡亚更名为比罗比詹工人新村。
1934年5月7日，根据全俄中央执行委员会的决议，比罗比詹民族区升格为犹太自治州。
1934年5月7日该区被改为犹太自治州，成为俄联邦的组成部分。
1937年3月2日，根据全俄中央执行委员会的决定，犹太自治州的行政中心比罗比詹工人新村获得城市地位。
1938年随着哈巴罗夫斯克边区的建立犹太自治州成为了它的组成部分。
1991年俄联邦社会主义共和国最高委会主席团制定关于犹太自治州国家法律地位的宣言后，犹太自治州成为俄联邦的独立主体。
苏联解体以后，犹太自治州脱离哈巴罗夫斯克边疆区，成为独立的俄罗斯联邦主体，但是它未能像俄罗斯境内其他4个自治州（卡拉恰耶夫-切尔克斯自治州、阿迪格自治州、戈尔诺-阿尔泰自治州、哈卡斯自治州）那样升格为共和国，而是依旧保持着原来的称谓。
1992年3月31日签署了《联邦条约》的联邦合约。
