金太祖定燕（今北京），占领辽统治的汉人地区后，则不再推行单一的女真官制，踵辽南北面制度，在北面继续实行猛安谋克制，在南面实行中原官制，以统治原辽地区汉人。这样，在南面用中原宰相制度，置中书省、枢密院于广宁（今辽宁北镇），而朝廷仍用女真宰相制度。
金太宗灭北宋，占领黄河以北的河北、河东地区后，沿用宋制，于是在同样的汉人地区出现辽制与宋制的不同，同受制于元帅府。天会四年（1126），在斜也、宗幹的主持下，始定官制，立尚书省以下诸司、府、寺，这次改革主要是统一辽、宋官制，把以中书省为中心的三省制改为以尚书省为中心的三省制。要将原辽、宋制统一，就必须按新规定的官制进行换授。例如蔡松年归金以后，元帅府辟为令史，在天会中因为辽、宋官制统一，旧有官者都要换授，蔡松年改为太子中允，除真定府（今河北正定）判官。天会八年下诏，辽、宋官上本国诰命，等第换授。随着官制改革，引起统治机构和设置的一再调整。天会六年，同中书门下平章事、知枢密院事刘彦宗死，由韩企先代之，两枢密院权集中到云中（今山西大同）；天会七年，分河北为东西路，燕京枢密院划属河北东路。后立刘豫，把河南、陕西地划归刘豫，行宋制，杂女真制，实际上是金尚书省制与宋制在河南、北并存。
天会四年始定官制，是向全国推行中原官制的过渡，随着这种改革，朝廷中的女真勃极烈制也出现向三省制转化的趋向。天会十年，把勃极烈改革为四员，谙班勃极烈为储贰，是皇帝的继承人，国论忽鲁勃极烈为总理，国论左右勃极烈为左右大臣，实是尚书令、左右丞相的前身。天会十二年，在全国实行三省制的条件已成熟，下诏全国，但未及实行，太宗死。金熙宗即位，继承太宗遗愿实行三省制，又废刘豫，置行台尚书省，归属朝廷。天眷元年（1138）颁行新官制，改燕京枢密院为行台尚书省。皇统元年（1141），燕京隶尚书省，西京（今山西大同市）山后诸部族，仍隶都元帅府。到海陵王时，废中书、门下省，只置尚书省，不置平章政事，废行台尚书省，改都元帅府为枢密院。正隆元年（1156），颁布“正隆官制”，官制改革至此已臻完成。
第二阶段，主要是对海陵时的官制继承和调整发展的阶段。金世宗大定二年（12）十月新定制度，把海陵已废除的平章政事又重新增设。尚书省置尚书令、左右丞相和平章政事为宰相官；左右丞和参知政事为执政官；但领三省事不再置。在金世宗统治的大定中，不仅又扩大宰相的设置，而且汉人参加朝廷任宰相、执政官者增多。据统计在宰相与执政官中，宗室女真人7人、非完颜女真贵族15人、汉人14人、契丹人及渤海人各2人。形成了以女真、汉人为主的多民族的皇权政治核心，但出身女真的宰执依然占着绝对的优势。
到金章宗时，金代官制的发展更加完备。此前，猛安谋克是作为地方政制与州县制并存，但随着女真族社会封建化的完成，作为地方行政组织失去了它存在的意义，从性质上发生了重大变化，即作为封建的屯田军而继续被保留下来，因而变成封建国家的屯田军户与州县的齐民户并存，由过去奴隶制的组织与封建组织的矛盾变成军户与齐民户的矛盾。
