隋文帝建立隋王朝，取得政权后，为了加强中央集权，巩固自己的统治，建立了一整套新的政治、经济制度。这些制度，在中国历史上占有很重要的地位，并对隋代以后各朝产生深远的影响。
隋文帝首先进行官制改革。在他即位的581年，就废除北周的六官制度，恢复、改革汉魏官制，建立新的隋朝职官制度。中央设三师、三公及尚书、内史、门下、秘书、内侍五省。
三师就是太师、太傅、太保，官位为正一品。三师在汉魏时名义上是皇帝的老师，与皇帝坐而论道，可以设置官署，自选僚属。隋朝设置三师，与汉魏不同，不能自设官署，不掌实权，只是给一些德高望重的人一些荣誉职衔。如隋文帝以前朝元老李穆为太师，享受着贵盛无比的荣耀，但是没有实权。
三公指太尉、司徒、司空，官位也是正一品。隋初虽然可以自己设置官署，安排僚属，但不久便被罢去，他们有参预国家大事的责任，但也是顾问性质，而且职位经常空着，不常设，后来也就成了安排退位大臣的闲职。
真正的权力机关是尚书等五省。其中，内侍省是宦官机构，主掌皇宫中的事务；秘书省掌国家图书历法，职务也比较清闲，这二省在政权中不占重要位置。全国军政大事主要由内史、门下、尚书三省和尚书省下辖的六部处理，这是隋朝中枢机构的显著特点，一般称之为三省六部制。内史省负责起草诏令，是决策机关，长官为内史令；门下省掌政令审查及封驳，是审议机关，长官为纳言；尚书省统率百官，是行政机关，长官称尚书令和左、右仆射。三省的长官都是宰相。中央机构的日常政务由尚书省所辖六部负责，六部即吏、礼、兵、度支、都官、工六部。吏部掌管全国官吏的任免、考查、升降及调动等；礼部掌学校、祭祀、礼仪及接待四方宾客；兵部掌全国武官的选用及军籍、车马、武器装备等；度支掌全国土地、户籍、赋税、财政收支等，度支后改称民部；都官掌法律、刑狱等，都官后改称刑部；工部掌管工程、工匠、屯田、水利等。六部设尚书一人，侍郎二人。三省之名，隋以前就有，而三省并立，各有分工，以及三省长官共同向皇帝负责，则始于隋文帝。三省分别负责起草诏令、审议封驳和贯彻执行，互相牵制又互相补充，保证政令的推行，避免权臣专权，有利于皇帝总揽大权。六部制也是隋文帝时确立的，六部始称六曹，由左、右仆射分领。六部尚书分掌全国政务，加强了中央集权，后世遂相沿成例，一直延续到清末。隋文帝所建立的三省六部制，发展和加强了中央集权的封建国家制度，开创了中国官制史上的一个新阶段，对唐以后的历代封建官制影响很大。
中央职官还有御史、都水二台，分掌监察、水利等事。太常、光禄、卫尉、宗正、太仆、大理、鸿胪、司农、太府、国子、将作等11寺，作为中央具体事务机关，分掌各项具体事务。
在地方官制方面，隋以前的地方官制非常混乱，北周实行州、郡、县三级制，全国有211个州，508个郡，1124个县，每州所辖平均不到3个郡，每郡只管2个县，而且许多县都很小。而地方政府机构却纷繁重叠，官吏冗多。583年（隋开皇三年），隋文帝废去郡这一级，改为州、县两级制，州设刺史，县置县令。同时，合并了一些州县，裁汰了许多冗官，节省了国家开支，提高了行政效率。地方实行州县两级后，州刺史只管民政，不掌军权，从而消除了割据因素。
隋文帝还废除了州县长官可以辟举本地人士担任僚属的旧制，规定凡是九品以上的地方官一律由中央政府的吏部任免，并且每年进行考核，县佐必须用外地人，三年一任，不得连任。这样，本地人便无法把持本地政务。这些措施既改善了吏治，又加强了中央对地方的控制。
关于军事制度，隋文帝也进行了改革。隋初，继续实行西魏、北周以来的府兵制。隋文帝对之进行了重要的改革，将府兵编入民籍。原先府兵，独立军户，其家属随营，住在军坊，不是民户。在战争情况下，府兵南征北战，调动频繁，军人家属也居无定所。隋朝灭陈统一中国后，590年（隋开皇十年），隋文帝下令：“所有军人，户籍全部划入当地州县，土地分配和赋役征收与当地农民完全一样，但是他们仍有军人的职责，受军府管辖。”这样，军人连同他们的家属列入州县户籍，转为民户，可以按均田法受田。军人家属实现了安土定居，军人平时耕作，每年有一定时间轮番宿卫，战时出征。府兵制下的军人，就是均田制下的农民，改变了过去兵农分治的现象，实现了兵农合一，寓兵于农。府兵制度进一步与均田制结合起来。由于府兵可以按均田令领受一份田地，这样实际上扩大了府兵的兵源，有利于府兵制度的巩固和国家对府兵的控制，防止府兵将领拥兵自重，骄横跋扈，从而巩固了中央集权。在府兵统率方面，隋文帝建立了卫府制度。开皇中，置骠骑府，每府置骠骑、车骑二将军统领府兵。中央置12府，即左右卫、左右武卫、左右武侯、左右领、左右监门、左右领军，中央12府下统诸骠骑府，直属皇帝管辖。这样，皇帝掌有对军队的直接控制权。
在选官制度方面，隋朝创设了科举制。隋文帝为了加强中央集权，限制门阀士族的权势，于开皇年间废除九品中正制，实行科举制度。所谓科举制度，就是分科考试选拔官吏。隋代的科举，大体有两类情况，一类属于皇帝临时提出的特科，如598年（隋开皇十八年七月），文帝诏令京官五品以上，地方官总管、刺史，以“志行修谨”（有德）、“清平干济”（有才）二科举人，这二科都是特科。另一类是常设科目，有秀才、明经、进士科。最初只设秀才、明经两科。如韦云起，开皇中以明经举；杜正玄，开皇十五年举秀才，试策高第。秀才先试策，并加杂文，录取的标准很高，考试及第的人士极少。后来又增置了进士科，只试策，不考杂文，增加了录取人数。科举制度的创设，改变了以往只重门第不重才学的弊端，为一般庶族地主参政创造了条件。选官之权收归中央吏部，从而打破了门阀大族把持选举工作的局面。隋朝所开创的科举制度，历经唐、宋、元、明、清，维持了1300年之久，对历代的封建统治影响很大。
在法律制度方面，隋文帝也注重改革。581年，隋文帝即位不久，便命高颎、杨素、郑译等人制定新律，规定了五种刑名：一为死刑，只分斩、绞二等，废除前代枭首（即砍头）、车睘裂（即车裂）等残酷刑罚；二为流刑，分1000里、1500里、2000里三等；三为徒刑，分1年、1年半、2年、2年半、3年五等；四为杖刑，自60到100五等；五为笞刑，自10到50五等。583年，杨坚看到刑部处理的罪案还多至万件，认为法律还过于苛严，又命苏威、牛弘等修订，除去死罪81条，流罪154条，徒杖等千余条，定留500条，分为名例、卫禁、职制、户婚、厩库、擅兴、贼盗、斗讼、诈伪、杂律、捕亡、断狱等篇，共12卷，这就是《开皇律》。至此，封建的刑罚制度基本上定型下来。从西周的墨（在脸上刺字）、劓（割鼻子）、剕（断足）、宫（男阉割，女禁锢）、大辟（死刑）五刑发展到隋的五刑，肉刑显著减少了，这是一个变化和进步。隋文帝还主张，对死刑的判决必须持慎重态度。592年他下诏规定：全国各地死罪犯人，不准由本地决定处决，必须送大理寺（全国最高司法机关）复审，审完还要再送尚书省奏请皇帝裁定。595年又敕令：死罪犯人要经过三次奏请，批准后才能行刑。这些规定都反映了隋朝法律制度进步的方面。
《开皇律》虽然在条文的规定上比前代有所放松，但它本质上是维护地主阶级特别是皇朝统治阶级的法律，所以贵族官僚等在法律上享有特权。凡是在议亲、议故、议贤、议能、议功、议贵、议勤、议宾“八议”之科的和七品以上官吏，犯罪皆减一等治罪，九品以上官吏犯罪的，可以用铜赎罪。而对于人民群众，隋律则表现出明显的镇压人民反抗的阶级压迫实质。《开皇律》发展了《北齐律》的“重罪十条”而创“十恶三条”，即谋反、谋大逆、谋叛、恶逆、不道、大不敬、不孝、不睦、不义、内乱。凡属“十恶”之罪，要受最严厉的处罚，不加赦免。
隋文帝不仅制定了既严明又宽简的法律，而且认真加以贯彻执行。他的第三个儿子秦王杨俊在平陈作战中立了一些功劳，深得文帝喜爱。可是后来，杨俊居功自傲，追求生活的奢侈，建造宫室，超过制度规定的规模，而且还发放高利贷，榨取百姓。文帝专门派人调查了这件事，给予严肃的处理，牵涉到的有一百来人。杨俊还不思改正，反而变本加厉，营造豪华宫殿，用香粉涂饰墙壁，用玉石砌垒台阶，殿堂的梁柱楣栋之间用明镜、珠宝装饰，穷极奢丽，整天和歌儿舞女在里面吃喝玩乐。文帝知道后，派人将他召到长安，下令革去他的官职。右武卫将军刘昇劝说道：“秦王没有其他的过错，只不过花费公家的东西营建自己的房子而已，我认为可以宽恕他。”文帝回答说：“法律无情，决不能违背！”大臣杨素也来替杨俊求情，劝文帝说：“秦王的过错不算大，革除其官职，这种处罚太重，请陛下再认真考虑。”文帝说：“法律对天下的人都是一样的，如果照你所说的那样做，为什么不另定一个皇子法律，我必须按法律行事！”杨素的劝告也不起作用，最后杨梭还是被免除官职。
文帝的皇后独孤氏有个亲戚叫崔长仁，崔犯法应当被斩首，有人向文帝和独孤皇后求情，独孤皇后说：“执行法律是国家的大事，不能因为个人私情而破坏法律。”文帝认为皇后说得有理，就将崔长仁依法斩首。
文帝不仅自己认真执行法律，而且注意提拔、奖励那些奉公守法、政绩显著的各级官吏。
王伽，是开皇末年齐州的一位小官，押送犯人李参等70多人到京城去。按照当时的规定，这些囚犯要用枷锁锁上，派专门人员押送。王伽将他们押到荥阳时，看到押送人员和犯人长途跋涉，十分辛苦，很怜悯他们，便将犯人召集起来说：“你们触犯了国法，受罪是应该的，你们看看押送的民夫多么辛苦，你们心安吗？”李参等人谢罪。王伽又说：“你们犯了法，带枷锁走路，也很辛苦，现在我给你们脱去枷锁，让你们自己前往京师，咱们约定日子集合，到时如果你们有谁失约没到，我只好代你们受罪了。”说完，遣散役夫，让李参等犯人自行去京城。到了约定的日子，犯人们都到达，无一人逃跑。这件事轰动了京城，文帝听了也很惊异。他召见王伽，大加表扬，擢升他为雍县县令。并下了一道诏书，说只要官有慈爱之心，民并非难教，号召官吏们学习王伽，以至诚待民。文帝又召见李参等人携带妻儿入宫，赏赐宴席，宣布免罪释放。
齐州官员赵轨，他家的东邻有一株大桑树，桑葚熟了，落在他家院内，赵轨马上让人把桑葚全部捡起来归还邻居，并以这件事教育他的孩子说：“我并不是想用这事来求得好名声，而是认为不是我们的东西，不应该占有，你们应该记住这件事，不是自己的东西不要贪心。”他在齐州的政绩考核，连续四年都是最好的。有人将赵轨的事报告文帝，文帝很高兴，赏赐他布帛等物品300段，米300石。后来赵轨荣调离州，老百姓挥泪相送说：“别驾（赵轨官职）在本州，对百姓爱护备至，滴酒不沾，所以我们不敢用酒相送。别驾清廉如水，请允许百姓以杯水代酒为别驾饯行。”赵轨将清水一饮而尽。后来赵轨荣升寿州总管长吏，当地的水利设施芍陂旧有五门堰，年久失修，芜秽不堪，赵轨组织官员民众，更开了36个门，灌田5000余顷，促进了当地的农业生产，给民众带来很大的利益。
