西晋灭亡后，北方沦丧为一片战火之地，出现各种政权，不断更迭，更是五胡乱华，导致民不聊生。因此大量的百姓逃亡南方，王公贵族也纷纷向南方迁移，如汝南威王司马佑、西阳王司马羕、彭城王司马雄、南顿王司马宗，以及先一步到达江南的琅琊王司马睿，被称为“五马渡江”。按理说这些藩王到达江东后应该得到拥戴，享受荣华富贵，实际上结局非常悲催，这些藩王不是被诛杀，就是削扁沦为庶民，这也是司马氏一族逐渐衰弱的体现。
终于在太兴318年，司马睿在南方士族和北方士族，以及琅琊王氏的拥戴下，登基为帝，改元太兴，占据长江中下游及淮河珠江流域地带。
东晋开国时，国土为220万平方公里，占据扬州、荆州、交州、广州、宁州、交州，以及兖州、青州、冀州、司州、幽州、并州小部分地区。而此时的王敦官拜大将军，驻兵于武昌，为江州牧，并且在荆州、扬州一带占有大量势力，朝中一半多的官员都是王家的亲信及党羽，王家的沼泽已经遍布整个朝堂之中，在整个东晋政权影响颇大。
而且晋元帝司马睿孱弱，在皇族中威望不高，又非晋武帝司马炎其子、其孙，并非正统，只不过是司马炎的从子。而且南方士族原本并不支持晋元帝司马睿，而是因为琅琊王氏的推崇，南方士族和北方士族才转而支持晋元帝司马睿，并且王敦原意并非打算帝司马睿为帝，因为王敦认为司马睿太过贤明，不容易控制，但最终还是立司马睿为帝。
晋元帝司马睿心想“我王义必须培植自己的亲信，巩固自己皇权的统治，否则便会像历史上的司马睿一样大权旁落，最终忧愤而死，落下“王与马共天下”之名。”
所以不久晋元帝司马睿便开始提拔亲信，首先晋元帝司马睿先重用刘槐，刘槐乃是彭城人，起初担任秘书郎，后迁任冠军将军、彭城内史，此人为官刚正，不惧强权，为淳于伯伸冤。晋元帝司马睿心想：“历史上的刘槐为官刚正，多次上书弹劾有罪大臣，甚至迫右将军王敦，多次与琅琊王氏对抗，是担任自己亲信的好人选。”于是司马睿马上下旨将刘槐迁为侍中，封乡都侯，又改镇北将军，都督青州、徐州、幽州、平四州诸军事，率兵镇守泗水口。