公元960年正月，赵匡胤发动陈桥兵变，取代后周建立宋朝，五代十国的分裂割据局面并未因此而结束，宋朝从后周继承过来的疆土，主要为河南、山东、山西南部、河北中南部、陕西中部、甘肃东部及淮南地区。
当时，天下还是处于四分五裂的状态，北边：有强大的契丹及北汉；南边：有南唐、吴越、南汉、后蜀四个实力较强的政权，实力较弱的割据有周行逢的湖南、高保融的荆南以及留从效割据福建的漳州、泉州一带。
对于如何统一天下，宋太祖是倾向于先打北汉，对赵普说：“吾欲收太原”，而赵普则表示反对，认为先打太原有害无利，倾向于先扫平南方，北汉只是一个弹丸小国，再厉害也逃不出如来佛祖的五指山。
最终，宋太祖接受了赵普的建议，正式确立了“先南后北”的统一方略，暂时对契丹、北汉采取守势，并派出使臣与契丹缔结了友好的和平关系，确保了北境的稳定。同时，在南方，宋朝则利用诸侯之间的矛盾，抓住历史机遇，各个击破。
宋太祖要求李煜到开封朝拜，李煜拒绝了。宋太祖就以李煜抗命为由，任命曹彬为主帅，发动了消灭南唐的战争。自从被周世宗打了个半死后，此时的南唐已经非常虚弱，军事上连战连败，而李煜却让僧人、道士在宫中念经，祈祷上天的庇佑。
当宋军抵达金陵城下，李煜才慌神了，急忙派大臣到开封乞求宋朝退兵，说南唐一直对宋朝百依百顺，没有得罪之处，宋兵出师无名。而宋太祖却握着剑断喝道：“江南亦有何罪，但天下一家，卧榻之侧，岂容他人鼾睡？”拒绝了南唐的请求。
最终，金陵被宋军围困近一年后，李煜在得到曹彬不滥杀的承诺后，开城投降了，南唐22州、军，180县并入了宋朝版图。
在基本扫平南方后，宋朝就准备打北汉了，但是，由于宋太祖突然驾崩，而新继位的宋太宗为了巩固自己的统治，就取消了打北汉的计划，下令宋军撤退。
