隋文帝是中国历史上非常有能力的一位君王，素以勤政节俭著称，同时依靠杨素、高颎、苏威等一批能力极强的文武大臣辅佐，推行汉化与改革政策，在严刑峻法之下辅以儒、释的教化，使得统一国家逐步稳定，经济迅速繁荣，可谓历史奇迹，史称开皇之治。
隋朝建立之后，在各项制度方面，均进行了较大规模的改革。
第一，职官制度的革新，废除北周六官，恢复魏晋旧制。从西魏时期宇文泰采用《周礼》六官建立了一整套的官僚制度起，一直延续到北周末年，根据六官制度，中央行政机构中设置6个长官，即大冢宰（天官）、大司徒（地官）、大宗伯（春官）、大司马（夏官）、大司寇（秋官）、大司空（冬官）。大司徒以下各官分掌各项重要政务，大冢宰为六官之长，总揽朝政，这一来源于理想化设计的官制，在西周时期是否曾经实施尚未可知，但在秦汉之后，中央集权日益强化，三公（太尉、司徒、司空）因为位高权重，逐步变为虚衔，诸事归于台省，大冢宰的权力之大，无异于集三公于一身。因此，事实上六官制度实施也只是以特定的历史背景为基础，在西魏和北周初年，宇文泰、宇文护相继专政，才得以大权独揽，北周武帝诛杀宇文护之后，皇帝亲掌大权，大冢宰实际上已没有什么实际权力。隋文帝即位后，为加强中央集权，北朝六官制已经不再有其存在的合理性了，魏晋时期的省寺台府官（即三省制）也随之得到恢复。
隋朝初年改革的这套新的职官制度，据《隋书·百官志》记载：“置三师、三公及尚书、门下、内史、秘书、内侍等省，御史、都水等台，太常、光禄、卫尉、宗正、太仆、大理、鸿胪、司农、太府、国子、将作等监，左右卫、左右武卫、左右武侯、左右领、左右监门、左右领军等府，分司统职焉。”这套中央职官体系，继承汉魏以来的官制变化，开启唐宋以后各代的官制，具有划时代的意义。
隋朝中央官制的核心是三省制，即内史省、门下省、尚书省。内史省原为中书省，隋以避文帝父杨忠讳而改称内史省，置内史监、令各1员，不久废监，置令2员。又置内史侍郎4员（后减为2员），为之辅佐；下有内史舍人8员（后减为4员），内史通事舍人16员。门下省长官原名侍中，为避杨忠讳，改称纳言，纳言2员；其副职称给事黄门侍郎，设4员，后改称黄门侍郎，减员额为2人。《通典·职官典》称，自梁陈以来，“举国机要，悉在中书；献纳之任，又归门下；而尚书但听命而已……内史、纳言，是为宰相。”三师、三公虽然地位崇高，位居正一品，实际上只是荣誉职务。三公之前是宰相正官，隋文帝废除三公的官署及僚属，将其拨归尚书省名下，使三省长官知政事，成为宰相之职。隋朝尚书省在三省之中的地位最高，《隋书·百官志》称“尚书省事无不总”，体现了其国家最高行政机关的权力与地位。尚书省置尚书令一员，尚书左右仆射各一员，下置吏部、礼部、都官（后改称刑部）、度支（后改称户部）、工部等六尚书。六部之中，每部下辖四司，是为24司，每司置侍郎1员或2员，六部共36侍郎。
三省之外，又有秘书省（长官秘书监）和御史台（长官御史大夫），隋炀帝时又分置殿内省，连同尚书、门下、内史、秘书省共为五省。又增置谒者台、司隶台，与御史台合称三台。又成立少府监、长秋监、国子监、将作监、都水监，合称为五监。六部之外，又有太常、光禄、卫尉、宗正、太仆、大理、鸿胪、司农、太府等九寺，置卿、少卿各一员。
总之，隋朝第一次清晰厘定了以三省六部为核心，综括了台、寺、监等集成的中央官制，对唐朝以后各代的政治制度产生了重大影响。
