西汉中叶，汉武帝赋予尚书署（后改名尚书台，成帝时置尚书五人，其中一人为仆射掌管全局）草拟诏书处理章奏的权力。所有章奏均备有一份副本，由尚书拆阅，然后决定是否呈送皇帝。尚书台由保管文书的机构变成了皇帝的秘书机构。武帝时还以侍从顾问官侍中、给事中等参与决策，从而形成了尚书、侍中、给事中等官组成的中朝。武帝死后，年幼的昭帝即位，实际上是大司马大将军霍光执政。为了便于处理政务，霍光以“领尚书事”的头衔主持尚书台。此后，拥有“领尚书事”、“平尚书事”、“录尚书事”等头衔的官员便成了中朝官的首脑，而丞相等三公反而成了听命于中朝的外朝行政官的首脑。西汉末年，终于以“宰相之材不能及古”为理由，改丞相为大司徒，太尉为大司马，御史大夫为大司空。
东汉初年，改三公为太尉、司徒、司空，分掌军事、民政和水土百工，在三公之上设太傅，掌辅导天子，但是，实际上尚书台仍是掌有实权的中枢机构。由于“天下枢要，在于尚书”，尚书台的机构有所扩大，正副长官尚书令、尚书仆射之下设诸曹尚书郎和侍郎，分头处理有关事务。尚书令、仆射和诸曹尚书合称“八座”。东汉的权臣亦有“录尚书事”的头衔，无此头衔的太傅、三公只是没有实权的“坐而论道”之官。
东汉末年和魏晋南北朝几次恢复了丞相制度，但都是为曹操、诸葛亮、司马炎、王导等权臣所设的权宜之计。中枢机构的发展趋势是向三省制过渡。
东汉末年，曹操以魏王的身份执政，王府中设秘书令掌机要。曹丕称帝后，将秘书令改为中书监和中书令，分任中书省（魏晋时，中央官府习惯于称“省”。卫宏《汉官旧仪》注：“省中，禁中也。成帝外家王禁贵重，朝中讳禁，故日省。”）的长官，形成了中书掌机要，尚书（已脱离少府）掌行政的格局。晋朝将侍中、给事中组成门下省。中书、门下、尚书三省的长官中书监、中书令、侍中、尚书令、尚书仆射均为宰辅之臣。然而，中书省的权力较大。西晋苟勖由中书监升尚书令，乃曰：“夺我凤凰池（指中书省），诸君贺我邪！”南北朝时，门下省取得了监督中书、尚书二省的权力。但南朝时中书省长官多被架空，中书通事舍人有实权。隋朝改中书省为内史省，同时取消了太师、太傅、太保等三师和太尉等三公的府僚，三师三公“盖与天子坐而论道者也”，变成了优礼重臣的荣誉性职位，最终确立了三省制度。
唐初承袭三省制，并使之更加完善。唐改内史省为中书省，设中书令二人，“掌军国之政令”，凡册命书敕，“皆宣署申覆而施行之”，即秉承皇命，起草诏令。可见，中书令是“佐天子而执大政”的重要官职。中书令佐官有中书侍郎二人，重要属官有“掌侍奉进奏，参议表章”的中书舍人六人；“掌侍奉规讽，备顾问应对”的右散骑常侍、右补阙、右拾遗各二人；掌记录皇帝言论，以备修史的起居舍人二人；负责传达皇帝诏命的通事舍人十六人。此外，还有掌编修国史的史馆。
门下省设侍中二人，“掌出纳帝命”，“凡军国之务，与中书令参而总焉”，凡奏议表状，“皆审署申覆而施行焉”。中书省草拟的诏令要送门下省审议，门下省如认为不妥，可以退还中书，叫做“封还”或“馀归”。尚书省等各官署送呈的奏章，也由门下省审议驳正，门下省将审核意见提供皇帝参考。唐太宗十分重视这一“封驳”制度，他对大臣说：“国家本置中书、门下以相检察，中书诏敕或有差失，则门下当行驳正。人心所见，互有不同，苟论难往来，务求至当，舍己从人，亦复何伤！比来或护己之短，遂成怨隙，或苟避私怨，知非不正，顺一人颜情，为兆民之深患，此乃亡国之政也。”他还对群臣说：“中书、门下，机要之司，诏敕有不便者皆应执论，比来唯睹顺从，不闻违异，若但行文书，则谁不可为，何必择才！”可见，封驳制度多少能减少皇帝的失误，有利于集思广益。所以，侍中是“佐天子而统大政”的重要官职。侍中的佐官有门下侍郎二人，重要属官有“掌陪侍左右，分判省事”，即负责具体封驳事务的给事中四人；“掌侍奉规讽，备顾问应对”的左散骑常侍、左补阙、左拾遗各二人，谏议大夫四人；负责记录皇帝起居言行的起居郎二人；掌天子和国家信玺符节的符宝郎四人。此外，还设有保管校订图书，教授生徒的弘文馆。
尚书省，亦称尚书都省，设尚书令一人，总领百官，地位极高。由于唐太宗李世民继位前曾任此职，贞观后，尚书令一职不再授人。尚书省长官是左、右仆射各一人，“掌统理六官”，“总判省事”，其下有左、右丞各一人，以及吏、户、礼、兵、刑、工六部。尚书省是主持中央行政的重要机构。
唐建国之初，三省长官中书令、侍中、尚书令均为“佐天子总百官、治万事”的宰相。贞观时又加上了尚书省副长官尚书左、右仆射，以及拥有“参议朝政”、“参预朝政”、“参议得失”、“参知政事”等头衔的大臣。宰相们上午在门下省政事堂议事，下午回本署办公。
唐高宗以后，三省的名称和职权都发生了变化。中书省先后改名为西台、凤阁、紫薇省，门下省先后改名为东台、鸾台，尚书省先后改名为中台、文昌台、文昌都省和都台。高宗时，因三省长官位尊权重，采用授予一些大臣以“同中书门下平章事”或“同中书门下三品”等头衔，行使宰相职权。政事堂从门下省迁到尚书省。开元时，改政事堂为“中书门下”，下设吏房、枢机房、兵房、户房、刑礼房等五房，分头处理有关事务。中书门下成为握有实权的中枢决策机构。由于“同中书门下平章事”等宰相头衔一般不授给尚书省官员，尚书省被排斥出中枢，成为单纯的行政机关，三省分权制度遭到破坏。安史之乱前后，宰相的权力又遭到翰林学士的侵夺。早在唐初，太宗、武后都曾用学士草诏，但未形成定制。玄宗时，正式成立了翰林学士院，给翰林学士加上“知制诰”的头衔，专掌有关“拜免将相、号令征伐”的机密诏令，叫做“内命”。肃宗以后，翰林学士“知制诰”的地位显赫，时人称之为“内相”，宰相下属的中书舍人只负责起草一般的诏令。唐朝后期，宦官专权。代宗时，内廷设宦官担任的内枢密使，负责收发章奏诏令。僖宗时，内枢密使取得了批驳宰相的权力。五代时，改为士人出任枢密使，主管军事。参议朝政。到宋代，便形成了二府制。
宋代三师三公仍为“不预政事”的加官，只是在次序上发生了变化，太师最尊，太尉次之，以下依次是太傅、太保、司徒、司空。北宋末年又增加了少师、少傅、少保，合称“三孵”，亦称“三少”。
宋初，中书、门下、尚书三省长官形同虚设，“别置中书禁中，是为政事堂，与枢密对掌大政”，合称“二府”。“中书”全称是中书门下，亦称都堂、中书都堂，设“同中书门下平章事”为正相，“参知政事”为副相，统称宰相。其执掌是“佐天子，总百官，平庶政，事无不统。”枢密院设枢密使、知院事、同知院事、副使、签书院事、同签书院事，统称执政，其执掌是“掌军国机务、兵防、边备、戎马之政令，出纳密命，以佐邦治。”二府长官合称“宰执”。另有三司，掌财政，由三司使掌管，权位仅次于宰相，号称“针相”。神宗元丰改制，名义上恢复三省制度，实际上三省长官仍“以官高不除人，而以尚书令之贰左、右仆射为宰相。”左仆射兼门下侍郎为正相，右仆射兼中书侍郎为副相，以门下侍郎、中书侍郎、尚书左丞、尚书右丞为参知政事，算作执政。北宋末年，改中书、门下二省长官为左辅、右弼，改尚书左、右仆射为太宰、少宰。南宋高宗时改为以尚书左右仆射加同中书门下平章事为宰相，改门下、中书二侍郎为参知政事，废尚书左、右丞。孝宗时，将左、右仆射改为左、右丞相。
宋朝宰执名号一变再变，但中书、枢密对掌文武二柄，共同参与决策的原则是不变的。宋神宗曾曰：“祖宗不以兵柄归有司，故专命官以统之，互相维制，何可废也？”这种“文、武二柄，未尝专付一人”的制度有利于皇权的加强，却不利于处理军国大计，如“中书、密院议边事，多不合”，宰执之间争论不休，贻误军机，所以，从仁宗时起，遇边关用兵，常常以宰相兼枢密使。南宋时，“以宰臣兼使，遂为永制。”
辽朝官制分南面官和北面官。南面官仿唐制，一般以汉人充任，没有实权，实权操于北面官。北面官中，宰辅大臣是宰相府左、右宰相。
金朝仿宋制而又有所变通。金海陵王时，废除中书、门下二省，只保留尚书省。故金朝的中枢机构是尚书省，尚书省设尚书令一人，尚书令不轻易授人，其下设左、右丞相各一人，平章政事二人，“为宰相，掌丞天子，平章万机。”设左、右丞各一人，参知政事二人，“为执政官，为宰相之贰，佐治省事。”宰执之下设左、右司“掌本司奏事”；设六部分掌行政。可见，金代尚书省和宋代中书门下略有不同，它不是单纯的中枢决策机构，而是如汉代尚书台那样的决策、行政合一的中枢机构。
元朝撤销太尉、司徒、司空等三公，改以太师、太傅、太保为三公。同时，改尚书省为中书省。中书省，“总政务”，设中书令、右丞相、左丞相各一人，平章政事四人，右丞、左丞各一人，参政二人，参议四人。中书令、丞相是中书省的长官，平章、右丞、左丞、参政是副宰相。参议是宰相的高级助手，“典左右司文牍，为六曹之管辖，军国重事咸预决焉。”中书省的直属办公机构左右司的规模比金代有所扩大。金代尚书省左右司下不分房科，元代中书省左右司下设吏礼房、知除房、户杂房、科粮房、银钞房、应办房、兵房、刑房、工房等九房四十八科，分头办理有关六部等国家各部门的事务。
明朝建国之初仍以中书省为中枢机构。洪武十三年（1380年），明太祖朱元璋因“独相数岁，生杀黜陟，或不奏径行。内外诸司上封事，必先取阅，害己者，辄匿不以闻”杀掉丞相胡惟庸后，罢中书省。将六部直属于皇帝。后来，明太祖又下诏规定：“以后嗣君，其毋得议置丞相。臣下有奏请设立者，论以极刑。”从而废除了宰相制度。废相之后，为处理大量公文，以翰林官“详看诸司奏启，兼司平驳”，又以殿阁大学士组成了皇帝直接掌握的秘书班子。这个秘书班子在成祖时形成了内阁（因“授餐大内，常侍天子殿阁之下，避宰相之名，又名内阁”）。
明代内阁成员一般是三、五人左右，其名称分别是中极殿（华盖殿）大学士、建极殿（谨身殿）大学士、文华殿大学士、武英殿大学士、文渊阁大学士和东阁大学士。殿阁大学士统称为辅臣，其中资历最深的一人称首辅，亦称元辅、首揆。首辅主持内阁，以下为次辅、群辅，协助首辅。内阁执掌是：“献替可否，奉陈规诲，点检题奏，票拟批答，以平允庶政。”内阁拆阅章奏，写出内容提要，即“引黄”，亦称“贴黄”。再用小票写出所拟的批答，叫做“票拟”。然后将贴黄、票拟和章奏一起呈送皇帝。皇帝批答章奏时例用朱笔，所以批语叫“批朱”或“批红”。内阁根据批红起草诏令。内阁中还设有办理具体事务的诰敕房舍人和制敕房舍人。
内阁初设时，大学士地位低于六部尚书。洪熙、宣德年间，大学士带有尚书、侍郎的头衔。正统以后，大学士往往带有三公三孤的头衔，地位高于六部。但是，直到明末，内阁始终“不得专制诸司”，不是六部等中央行政部门的上级。诚如清朝乾隆皇帝所言：“夫宰相之名，自明洪武时已废而不设，其后置大学士，我朝亦相沿不改。然其职仅票拟承旨，非如古所谓秉钧执政之宰相也。”明中叶以后，皇帝昏庸，常常由宦官代皇帝批红，结果是“内阁之拟票，不得不决于内监之批红，而相权转归之寺人”。
清初曾设内国史院、内秘书院、内弘文院分掌修史、秘书、经筵等事，合称内三院。入关后，改内三院为内阁和翰林院。内阁设大学士、协办大学士和学士，负责草诏、票拟等事。大学士、协办大学士俗称为“中堂”。康熙时，设立专掌草拟机密诏令的南书房，内阁权力被削弱。雍正时，设立专门处理军务的军机房。乾隆时，军机房变成了“掌军国大政，以赞机务”的军机处。凡重要诏令，均由军机处奉旨拟稿，不经内阁，直接发出，称为“廷寄”。中央和地方各衙门的重要章奏也直送军机处，由军机处审议转呈皇帝。内阁成为安排元老重臣的闲散衙门，只办理一些例行公事的谕旨，叫做“明发”。“时军机之权，独峙于其上”，成为实际上的中枢决策机构。
军机处设军机大臣和军机章京。军机大臣亦称“大军机”、“枢臣”，其正式头衔是“军机大臣上行走”，初入军机者称“军机大臣上学习行走”。军机大臣无固定品级，由亲王、大学士、尚书、侍郎等带原衔原级出任。军机大臣人数亦无一定之规，少则三人，多则十一人，其中一人为首席军机大臣，称“领班”，亦称“领袖”，主持军机处。军机章京亦称“小军机”、“枢曹”。负责草拟文稿，由五、六品京官带原衔原级充任。军机章京编制为三十二人，分满、汉两班。满汉两班章京各十六人。两班分设领班、帮领班章京各一人。办公时，两班各出八人组成一班，随军机大臣值班，定期轮换。
清朝制度规定，皇帝应每天召见军机大臣，处理政务。军机处对皇帝当日所下的谕旨和当日所收的公文，均要在当日处理完毕，不得贻误，从而使行政效率有所提高。军机大臣权力虽大，但“亦只供传述缮撰，而不能稍有赞画于其间”，可见，国家的最高权力仍由皇帝独揽，军机处只不过是皇帝的秘书班子而已。
二、行政机构
古代中央行政机构按其执掌可以分为国家行政机构和宫廷事务机构，前者掌管国家的兵刑钱谷等事，后者直接为君主及其家族服务。两者区别在先秦不太明显，秦汉以后才逐渐分成了两个系统。
商代，商王、尹衡之下有“百僚”和“庶尹”，如总管内廷事务的宰；掌占卜、祭祀的卜、巫；掌秘书的作册；掌军事的亚、服、射；掌王室田庄的小藉臣；掌管奴隶的小众人臣等等。
西周形成了比较完备的中央行政体制。天子、师保之下有卿士寮和太史寮。太师、太保为卿士寮长官，其下有司徒，亦称司土，掌土地人口；司马掌军赋；司空，亦称司工，掌百工；司士掌爵禄；司寇掌刑律。太史寮长官是太史，兼掌秘书、图籍、天文历法，其下有太宰掌宫廷事务；太宗掌贵族事务；太祝掌祭祀；太士职掌不详，疑为掌贵族内部的礼法；太卜掌占卜。冢宰（太宰）变成了政务和宫廷事务的总管，宗伯掌王族事务和礼仪祭祀，再加上司徒、司马、司寇、司空，形成六官，亦称六卿。六卿经过春秋战国发展为秦汉的诸卿制。
秦汉诸卿之中地位最高的是太常（秦称“奉常”）、光禄勋（秦称“郎中令”）、卫尉、太仆、廷尉、大鸿胪（秦称“典客”）、宗正、大司农（秦称“治粟内史”）、少府等九卿。九卿的职掌分别是：
太常，掌宗庙祭祀和礼仪文化，其下有太乐、太祝、太宰、太史、太卜、太医诸令和博士，以及诸帝陵寝的陵县令。
光禄勋，掌皇帝的侍从和警卫，其下有太中大夫、中大夫、谏大夫，五官、左、右三署的中郎将、议郎、中郎、侍郎、郎中，期门仆射统率的期门兵，羽林令统率的羽林兵，以及谒者仆射和谒者。
卫尉，掌皇宫的警卫部队南军，其下有公车司马令、卫士令和旅贲令。
太仆，掌车马，其下有未央、车府、骏马诸令。
廷尉，掌司法，其下有正、左右监、左右平等官。
大鸿胪，掌接待宾客，其下有行人、译官、别火三令。
宗正，掌宗室事务，其下有都司空令，内官长及诸公主家令等官。
大司农，掌财政，其下有太仓、均输、平准、都内、籍田五令，以及郡国诸仓农监和都水长。
