隋文帝即位以后，摆在他面前的有两项重要的政治任务：一是消除北周后期的积弊，维新朝政；二是出兵江南，消灭陈朝，统一中国。
1、 统一中国
北朝时期，居住在黄河流域的各少数民族基本上与汉族融合，北方的社会经济也由恢复而发展。至隋建国，中国南北方的民族矛盾与经济、文化差别基本上消除了。可是这时南北在政治上的对立和斗争，不仅阻碍了南北经济、文化交流，也给两地人民造成很大的负担和痛苦。因之，结束南北对立，实现国家的再统一，是当时历史发展的趋势，也是南北方广大人民群众的要求。就南北方的实力而言，陈朝的政治黑暗腐朽，其统治已分崩离析，国力薄弱；而隋朝的政治比较清明，生产发展，国力强盛。因此，由隋灭陈来实现统一是历史的必然。
陈朝是陈霸先建立的。陈朝末年，皇帝陈叔宝荒淫奢侈，大建宫室，日夜与妃嫔群臣纵酒作乐，统治集团内部争权夺利，政治黑暗，边防薄弱。隋开皇八年（588年），隋文帝杨坚命其子晋王杨广率兵五十余万，分数路大举攻陈。次年初，隋将韩擒虎、贺若弼率军渡江，一举攻下建康，俘虏了陈叔宝，陈朝灭亡。岭南诸郡也在少数民族首领洗（xiǎn冼）夫人的率领下，归顺隋朝。至此，中国重归统一。
2、维新朝政
隋文帝即位以后，即大力革新朝政，废除北周的落后制度，采用了一些汉魏以来实行的符合需要的制度，另外还有所创新，史称维新朝政。
三省六部制 隋文帝对中央官制和地方官制都有较大的改革。在中央，废除了北周实行的六官制，确立了三省六部制。三省为内史省、门下省和尚书省。内史省是决策机构，负责草拟、颁发皇帝的诏令，其长官为内史令。门下省是审议机构，负责审核政令，驳正违失，其长官为纳言。尚书省是执行机构，负责贯彻执行重要政令，其长官为尚书令，副长官为左、右仆射（yè叶）。三省为中央最高统治机构，三省长官（包括仆射）同为宰相，共同负责中枢政务。六部即尚书省下属的吏、民、礼、兵、刑、工等六部。吏部主官吏的考核任免，民部主户口、赋税等，礼部主礼仪制度，兵部主军政、刑部主法律、刑狱，工部主水陆工程。各部长官为尚书，副长官为侍郎。三省分权改变了以往宰相一人执掌大权的状况，削弱了相权，加强了皇权。三省六部职司划分明确，提高了行政效能，加强了中央统治力量。
州县制 在地方上，隋文帝撤销了郡一级建制，改地方行政州、郡、县三级制为州、县两级制，又合并了一些州县，裁汰冗员，消除了过去层次、机构过多的弊端，改善了吏治，节省了开支。后来还规定，九品以上的地方官吏都由吏部任免，每年进行考核。州县佐吏三年必须更换，不得连任，而且不许用本地人，必须用外地人，这改变了秦汉以来地方官自聘僚属的惯例，防止了本地豪强地主垄断地方政权，进一步加强了中央对地方的控制。
改革府兵制 开皇十年（590年），隋文帝对府兵制做了重大改革。府兵制原为西魏、北周的兵制。府兵为职业军人，兵士都由军府统领，不列入州县户籍，家属也随营居住，编为军户。改革后，军人除仍有军籍、隶属军府外，又与其家属一起编为民户，隶属于州县；有了固定的住处，可以按均田令分得土地，从事生产；同则还要按规定轮番到京城宿卫，或执行其它任务。从此，府兵制与均田制结合起来，成为兵农合一，寓兵于农的制度。
创立科举制 南北朝时期的九品中正制，主要按门第高低选拔官吏，庶族出身的士人很难有仕进的机会。隋文帝即位后，废除九品中正制，选官不问门第。令各州每年向中央选送三人，参加秀才、明经等科的考试，合格者录用为官。隋炀帝即位后，创立进士科，这标志着科举制的产生。科举即分科取士之意。这一制度产生后，把读书、应考和做官三者联系起来，成为以后士人仕进的必由之路。科举制的产生，打破了数百年来世族门阀垄断仕途的局面，一般地主子弟甚至贫寒子弟也可能由此走上仕途。从此，选拔官吏之权从世家大族手中收归中央政府，从制度上限制了世家大族把持政治大权，为庶族地主参与政权开辟了道路。
编制《开皇律》 北周时期，法律时宽时严，刑罚混乱。隋文帝即位后，制定了《开皇律》。该律分为十二卷，共五百条，将刑罚分为死刑、流刑、徒刑、杖刑、笞刑五种二十等。还规定对犯十恶者要严惩不贷。《开皇律》废除了前代的一些酷刑，简化了律文，是唐及其以后各代法典的基础。
