周武帝雄才大略，颇有作为。亲掌国柄后，屡兴伐齐之师。杨坚从驾征讨，始建军功，历官定州、亳州总管，攻灭北齐后，进位柱国。

周武帝壮年病卒，太子即位，是为宜帝。周宜帝荒淫无道，朝野震怖。他在即位一年后，突然荒唐地禅位给只有几岁的儿子，自己仍然亲掌朝政，自号天元皇帝。其时杨坚特别注意礼贤下士，位望甚隆，引起主上的猜忌。天元帝曾怒气冲冲地对杨后说：“我一定要族灭你们全家！”一次，他果然召见杨坚，先命左右侍卫说：“如果见到隋国公面有怒色，你们就给我推出去斩了。”不料杨坚进见时，任由君王百般指责，仍神色自若，恭敬以对，皇帝竟然抓不到半点把柄，只得作罢。周武帝本来对杨坚深怀猜忌，指望儿孙能有出息，控制朝政，以防杨坚篡权，无奈生儿不肖，无力遏制杨坚实力的膨胀。

大象元年（）月，年方岁的周宜帝突然暴卒。杨坚倾心交结的心腹、把持朝廷机要的大臣郑译、刘明矫改诏令，使杨坚以国丈之亲，入朝摄政。杨坚轻松地掌握了北周军政大权。

杨坚擅权，引起北周诸王和诸将的普遍不满，杨坚分别加以处置。他逐一平定叛乱，放手诛杀北周宗室，排斥异己。

公元年月，杨坚迫使周静帝退位，自立为帝，改国号为隋，年号开皇，建都长安，史称隋文帝。

隋文帝即位伊始，便开始着手进行政权机构的改革。以加强中央集权。开皇元年（）月，他采纳大臣崔仲方的建议，废除北周六官制度，在汉、魏、北齐官制的基础上，设立内史、门下、尚书三省，作为最高政务机构，分别负责决策、审议和执行。尚书省长官为尚书令，副长官为左右仆射，与内史省长官内史令、门下省长官纳言同为宰相，三省相互牵制，共同参议国家大政。尚书省下辖吏、礼、兵、刑、民、工六曹，处理日常军政庶务。隋文帝还着手改革地方机构，废除了南北朝以来的州郡县三级体制，实行州县两级体制，撤除了不少冗赘州县，从而节省了政府开支，提高了行政效率。此后又规定六品以下官员也由吏部选授，地方官吏不得自辟僚佐，从而使中央对地方的控制能力得到极大加强。

下一步，隋文帝开始大力整顿史治，由史部每年定期考核地方官吏的政绩。州县佐官三年一换，不得再任。地方官全部选用外地人，严防各地豪强势力为恶。隋文帝还经常对表现良好的地方官史实行奖励，对于贪官污吏，则严惩不贷。他多次下诏选求贤良，选拔门第寒微却有才能的士人充任高官，因此，隋初谋臣良将众多，各种人才齐聚，极大地提高了王朝的统治效能。

隋文帝极为重视法制的完善，开皇元年，他命人参考魏晋旧律，制定刑律颁行，成为对后世法律影响深远的《开皇律》。开皇三年（）又命苏威、牛弘等人修订新律，体现出“以轻代重，以死为生”的精神。

为发展生产、增加国力，隋文帝在经济方面采取了许多有益的变革。开皇年（），他颁布了关于均出和租调的新令，减轻了百姓的负担，使农民有更多的时间从事农业生产。为解决汉末以来豪强庇民户为私属、侵夺朝廷户口的积弊，隋文帝实行“大索貌阅”利“输籍之法”，从而检括出大量隐漏户口，扩大了政府的收入来源。