杨行密去世后，徐温逐渐排除对手掌握了军政大权，拥立杨隆演建立了吴国，以后又主持为杨溥谋划称帝，因而成为吴国的第一大臣。他让自己的长子徐知训驻守扬州（今江苏扬州东北），自己则坐镇润州（今江苏镇江），隔江控制朝中大权。
徐知诰长大后，不但相貌出众，而且胆略过人，他为人厚道，待人诚恳，人缘也很好，威望高过徐温的其他儿子们。徐温的长子徐知训对他异常嫉恨，好几次想加害于他，但都因为徐知诰人缘好而化险为夷。
徐温让徐知诰做楼船军使，率领水军驻守在金陵（今江苏南京），后随军出征立下战功，被升为升州（今南京）刺史。当时江淮一带刚刚平定，各地的官员都是一 些武将出身的人，他们不知爱民，关心百姓疾苦，只知道横征暴敛，搜刮钱财。而徐知诰却与众不同，他一上任就改变了武将们的那种做法，勤于政事，做事力求节 俭，还广交儒生，实施宽仁政治，大大减轻了百姓们的负担。因而时间不长，徐知诰爱民的名声就传遍了吴国，威望也因此大涨。
他的养父徐 温听到后，就亲自来查看。徐知诰管辖的升州和过去大变了样，府库充实，城墙修得高大坚固，城内也治理得井井有条，一派太平盛世的景象。徐温看后非常高兴， 于是就坐享了这个养子的功绩：他让徐知诰到他坐镇的润州去治理，自己则搬到了升州，同时又将升州升格为金陵府。
徐知诰开始不愿意去， 向养父提出要去宣州（今安徽宣州），说了好几次，徐温都没有答应他，徐知诰因而整天闷闷不乐。他的谋士宋齐丘见他这样，便极力劝说他，说还是去润州为好： 徐知训傲慢而又昏庸，难成大事，而且他又对老臣旧将横加侮辱，我看他将来必定要出事，而且时间不会太长，您如果去了宣州，因为离那里很远，有事时无法及 时应付，而润州离扬州只有一水之隔，用不了一个晚上就可以安定大事。您现在反而要舍弃这种有大好处的地方去宣州，到那里枉度岁月，无聊得很啊！
徐知诰听了，恍然大悟，他马上出发到润州上任去了。宋齐丘分析得果然非常准确，不久，徐知训就出了事。他因为对属下极度欺凌，惹恼了大将朱瑾，朱瑾忍不 下这种待遇，就寻机将他杀死了。扬州顿时大乱，徐知诰隔着长江见对岸火光闪烁，马上召集部下渡江过来，进城之后，很快就平定了朱瑾的叛乱。
徐温得知扬州出事，赶忙领兵过来查看，见徐知诰已经平息了叛乱，稳定了局势，非常高兴，夸奖徐知诰说： 这次幸亏你在润州，离得近，否则我家大势已去。兄弟当中，你是有大功的！ 然后，徐温便让徐知诰代替徐知训治理扬州。
徐知诰执政后，像他在升州时一样施惠政于民，收拢民心。他完全改变了徐知训的那种盛气凌人的狂妄做法，对待吏民都很和蔼，还废除了一些严酷的刑法，实行 仁政。为减轻百姓负担，他又下令免去一些不合理的税收。此外鼓励百姓积极生产，为百姓创造良好的条件。奴婢的买卖也被他严令禁止，就是百姓家里有了什么婚 丧之事，他也遍施恩惠，有困难的家庭也能及时得到他的救济。为了更好地治理当地政务，徐知诰又广泛收拢有才干的文人，而且加以重用。为此他还专门建造了一 个延宾亭来接待四方的有识之士。像骆知祥、宋齐丘等人就成了他的心腹谋士，此外，他还注意打听一些流落到他辖境内的士人，把他们请来委以重任，即使没有什 么大的才能他也给个职务录用。
徐知诰关心民间疾苦，并不只是做个样子，而是身体力行。有一次，徐知诰在盛夏酷暑时外出，他不用伞也不 拿扇子，随从们看他热得直流汗，便要撑开伞盖，徐知诰婉言拒绝说： 士卒都暴露在骄阳下，我怎么能用这东西呢？ 徐知诰凭着他爱民如子的作为赢得了当地百 姓和将士的深深爱戴。虽然当时掌握大权的是徐温，但大部分的民心已经倾向于徐知诰。
徐温病死在金陵时，徐知诰马上行动起来，他一方面 以最快的速度将金陵接管过来，另一方面派兵阻止徐温亲生儿子徐知询来继承徐温之位。徐知诰代替了徐温的权臣职位，最后将杨溥推上了皇帝的宝座，自己掌握朝 中实权。他也效仿原来徐温的做法，自己到金陵，让儿子徐景通驻守扬州。杨溥封徐知诰为东海郡王。
徐知诰的愿望比他的养父徐温要大得多，他不想总当第一大臣，他想的是皇位。但他又不好明说，就在一次照镜子时对身边的心腹周宗说： 我的功业已经完成了，可是我也老了。唉，这该怎么办呢？
周宗早就看出了徐知诰的心思，但主人不说他也不便挑明。见徐知诰这样说，就明白了。于是，他就去联合其他人，一起活动起来。大家轮流劝徐知诰继位称帝，最后，徐知诰推辞谦让了一番，终于答应了。
天祚三年（937年），杨溥被迫让位，徐知诰正式称帝，建国号大齐，以金陵为都城。称帝建国后，徐知诰觉得姓徐不太好了，就在两年之后恢复了李姓，更名 为李昪，自称为唐玄宗之孙，所以他又将国号改为唐，为与唐朝和后唐区别，史称为南唐。大凡皇帝都有一些神灵之类的故事，而这些故事又常以民谣的形式传播。 在徐知诰称帝前后，江南就有一句童谣 东海鲤鱼飞上天 。等徐知诰当了皇帝，就有人出来解说这个民谣，东海指的是徐氏的封爵之名，即东海王，鲤鱼指李昪， 以此证明李昪的称帝是有神灵启示的。在封建社会，即使是很有威望的人为了争取其他人的拥戴，也想借助这种大家都相信的民谣来为自己制造有利的舆论。特别是 小孩子唱的童谣，更是觉得童言无欺，容易让大家相信，所以就编了朗朗上口的民谣让儿童传唱，以后再行动的时候百姓就以为是天意，接受得也就非常容易了。
登上了帝位，李昪没有像其他的皇帝那样变得昏庸起来，而是继续施仁政，尽量为百姓谋福利。为了政权的长期稳定，也为了百姓长久地享受太平，徐知诰制定了 一个根本的国策长期奉行，这就是保境安民。因为他知道自己的力量和中原的势力相比还有差距，所以制定了这个总的治国方针，对外边的政权他尽力与之和好，万 不得已时才北伐抗击中原势力，向南开拓疆土。有一次，因为江淮连年丰收，群臣都要求趁北方混乱之机北伐，恢复唐朝原来的疆土。李昪说： 我从小在军旅中长 大，经常见到战乱给百姓带来的严重危害，能使百姓安定，我也就放心了，其他还要奢求什么？
