没有了兵权的成都王很快便被边缘化了，朝廷的兵权全部由张方掌控，而朝政大权则由远在长安的司马颙遥相指挥。同时，司马颙还以皇帝的名义废去了成都王司马颖的皇太弟称号，盛极一时的司马颖居然沦落到要看司马颙眼色行事，处境相当悲凉。
不久，司马颙吸取司马颖遥控朝政结果引发司马越反水的教训，决定将皇帝司马衷接来长安。张方接到命令后，便调集军队对洛阳洗劫一番，随后押送着文武百官一并西去。甚至张方为了不便宜东边的司马越集团，准备一把火将洛阳城烧掉，以示“我得不到的东西，你们也休想得到”。好在卢志及时规劝，才最终没有实施。
可是这一路上也并不顺利，由于迁都人数实在多，结果拖慢了行程。此时又正值数九寒冬，一路之上因为受不了酷寒而冻死的人不计其数，看到这些，竟然连傻皇帝司马衷都哭着说道：“朕确是愚昧无知啊，连累你们遭这份子罪。（朕实不惠，累卿至此！）”大臣们一看傻皇帝都哭了，也就跟着哭，原本凄惨的迁都之路更像是奔丧的队伍了。
到了长安后，司马颙又开始了他新的人事调整，司马颖这个皇太弟被废后，皇位继承人就没影了。而之前那个皇太子司马覃是贼首司马越立的，自然也不能算，于是司马颙只得物色新的皇位继承人。如今司马炎二十五个儿子中，除了司马衷和司马颖外，只有吴王司马晏和豫章王司马炽还活着，而吴王司马晏又存在智力障碍，最后只得立司马炽为皇太弟。而且这个司马炽年纪小，也确实符合司马颙心目中傀儡皇储的定位。