曹丕死后，司马懿于249年发动政变，逐渐控制了曹魏的军政大权。三国后期，司马懿的两个儿子相继在魏国专权。263年，司马昭派兵灭蜀。265年，司马懿的孙子司马炎废魏帝后，自称皇帝，建立晋朝，定都洛阳，史称西晋。司马炎就是晋武帝。280年，西晋派兵灭吴，统一了中国。
东汉、魏、晋时期，有“五胡”之称的匈奴、鲜卑、羯、氐、羌等北方和西方少数民族不断内迁，同汉族人们共同杂居，互相影响，民族界限日益缩小，在很大程度上促进了民族融合。
西晋末年，匈奴首领刘渊起兵称帝，西晋被迫迁都长安。316年，匈奴兵又攻入长安，西晋灭亡。
从4世纪初到5世纪前期，北方统治者轮番在北方建立了15个主要国家，连同西南的成汉，历史上统称“十六国”。
317年，以王导为首的南下贵族、官僚、大地主，同江南大地主阶级一起，拥戴西晋皇族司马睿建立政权，定都建康，史称东晋。
4世纪后期，氐族建立了前秦政权，统一了黄河流域。383年，前秦军队同东晋军队在淝水展开决战。淝水之战以前秦失败，东晋军队胜利告终。至此，北方再次陷入分裂状态，东晋则乘机收复了黄河以南许多失地。
