此时在北方（长江以北），东海王司 马越成了八王之乱的最终胜利者，可他接手的国家，内是因连年战乱而满目疮痍的社会，外有匈奴、羯族、鲜卑等异族铁骑的虎视眈眈，可谓危在旦夕。面对每况愈 下，朝不保夕的形势，司马越和他的政治盟友王衍制定了屯兵中原、荆州、青州宛如“狡兔三窟”的整体防御计划；同时，又命王衍堂弟王导携同琅邪王司马睿南下 江东，坐镇建康（今南京市），与湖北、湖南遥相呼应，保卫司马越的大本营徐州（今苏北地区），并同中原地区互成犄角。
此时在南方（长 江以南），以“顾、陆、朱、张”为首的土家大族，也明白连年战乱，又受到强大游牧民族威胁的中原王朝大势已去。此时他们面临着两种选择：一，在江东找到一 个类似当年孙坚父子式的英豪人物，带领他们重新割据自立，这样能最大限度地保障江南土家大族的利益，此为上策。二，接纳南渡的晋皇室和中原士族，与他们共 建政权，并在新政权中得到权位和经济利益的充分尊重，此为中策。但当时的实际情况是，他们并没有在南方找到一个类似孙坚父子式的英雄人物；如果贸然逞强， 割据自立，实在太过冒险，于是他们便只好退而求其次，选择中策，即与中原士族共建政权，共享利益。
王导和司马睿便是在这样的南北环境下，来到江东的。
一个成熟的赌徒在下注前，总要先观察一段时间局面；政治人物在决定站哪个队时，同样如此。起初，江南士族对初来乍到的王导和司马睿也有怀疑，不知这些从前在北方高高在上、不可一世的中原豪门会如何看待自己。所以，也就没有太多主动的积极表示。
那么，在这种有些僵持，处于试探阶段的交往中，王导是如何做到“Ice Break”，如何为司马睿在江南打开局面，取得南方土家大族支持的呢?
王导首先用吴语扣开了江南人士的心扉，打消了他们的疑虑。王导一到江南，便苦练吴语，小有所成后，便立刻用还不太标准娴熟的吴语主动同许多江南人士交 谈。那些江南人士们，听到赫赫有名的中原第一家族，琅邪王氏的名士，竟主动用吴地方言同自己交谈，无不感到深深的触动，感到了王导对他们的尊重和王导的一 片赤诚，渐渐地对王导和王导极力推崇的司马睿有了好感，开始频繁交流，并且渐生爱戴之心，拥护之意。
王导不但自己和江南人士用吴语交 谈，也鼓励其他北方人士学习吴语，并多用吴语同南方人交流。很显然，这样一种“入乡随俗”的友善表示，大大消除了南北人士之间的隔阂，拉近了他们彼此之间 的关系，更重要的是取得了南方人士对司马睿、王导一行人的好感和支持（王导安排司马睿和众中原名士在建康城举行华丽隆重的车骑游行，以吸引南方士族侧目之 事，后经多位名学者考证，确定属后人加工创作，所以笔者在此不录）。
那么，在王导、司马睿一行人渐渐在江南立稳脚根之时，中国北方的情况又怎么样呢?
公元 311 年，匈奴首领刘聪遣多路大军入侵中原，先是大将石勒在苦县宁平城（今河南鹿邑），围歼晋中原主力10余万人，太尉王衍、36位王爷、以及 众多当时名士都不幸遇难。同年，匈奴另一大将刘曜又攻陷晋都城洛阳，俘虏了晋怀帝，并在京城里大肆烧杀抢掠，屠杀3万多士兵百姓。可以说，当时的中原在异 族铁骑的蹂躏下，已经由中华文明的摇篮变为了满是烧杀抢掠的人间炼狱。大量汉族百姓、士族子弟为了躲避强盗的洗劫，恶魔的追杀，不得不背起行囊，携妻带 子，举家南渡长江，流落江南。这一年，史称“永嘉之乱，衣冠南渡”。
面对源源不断南下避乱的北方老乡，冷静、沉着的王导显示出了一个 成熟政治家的气度和智慧。他向司马睿提了三点建议：一，设立侨州侨县以安置大量的北方难民；二，选拔其中有威望，有才干的士子，为我所用；三，要求南下的 北方大族在圈占田产时，尽量避开江南土家大族的势力范围，不要去触及他们固有的土地利益。
后来，这三项建议被司马睿一一采纳，并成为 推动东晋立国的关键性因素。第一，侨州侨县的设立，使得大量北方难民在南方有了栖身之所，点燃了他们重建家园的希望，他们自然对司马睿感激拥护；另外，北 方流民的涌入，为开发经济落后的江南，带来了大量劳动力和北方先进的农业生产科技，这些都刺激了南方经济的繁荣。第二，任用大量南渡的士族子弟，使得司马 睿王府精英荟萃，既笼络了南渡北方士族的心，又为日后的东晋政府做好了人力资源的储备。第三，不去触及江南土著大族的固有土地利益，使得江南大族在司马睿 那里，得到了尊重和利益上的安全感，所以也对司马睿、王导真心支持。王导、司马睿能够雄据东南半壁江山，还有另外一个关键因素军方实力派的支持。
王导一方面在建康为司马睿立国江南做着种种内政准备，一方面又积极游说琅邪王氏的另一个重量级人物，此时正屯重兵于建康上游军事重镇扬州的他的堂兄王 敦，劝说他与自己统一立场，支持琅邪王司马睿。结果，王敦在王导的游说下，非但旗帜鲜明地支持司马睿，还用实际的军事行动为司马睿立国江南扫清障碍。公元 311 年，王敦先是亲自率军击杀了不肯听命司马睿的江州刺史华轶；3年后，他又派大将陶侃剿灭了活跃于湖北、湖南一带以杜为首的四川流民军。可以 说，王敦用“铁和血”为东晋立国做好了军事上的准备。
王导做好了内政上的准备，王敦又做好了军事上的准备，此时，司马睿立国江南可谓万事具备只欠东风了。
公元 316 年，长安被匈奴铁骑踏破，晋愍帝被俘，王氏兄弟和司马睿终于等来了“东风”。王敦作为威名显赫的大将，率先向司马睿上劝进表，支持他称帝 江南。在王敦的带动下，其他拥兵在外的大将，如并州刺史刘琨、豫州刺史祖逖、幽州刺史段匹（鲜卑人）等也先后上劝进表，支持司马睿称帝。
公元 318 年，在晋怀帝、愍帝先后被俘，北方流民，南北方士族和军事实力派人物一致支持的情况下，司马睿水到渠成，顺理成章地在建康登上皇位，东晋 正式立国。至于晋书记载的晋元帝司马睿登基时，邀请王导与他共坐龙椅，接受百官朝贺，“王与马共天下”一事，虽属后人加工渲染，不太可信，但至少能说明两 点：一，司马睿对王导一手策划帮助他这个皇室远支子弟登上皇位，心怀感激；二，也是更重要的一点，在东晋“王与马共天下”的政治格局中，琅邪王氏居主导， 皇权处弱势，所以司马睿不得不对王导敬重有加。
