金朝先后废除刘豫“政权”和燕京枢密院以后，于其地设行台尚书省。
天会十五年十一月，废刘豫设行台尚书省于汴（今河南开封），把表面为独立政权的齐废除后，将其辖区置于朝廷之下。后来挞懒与南宋议和，将河南、陕西地与宋，因将行台尚书省迁到大名府（今河北大名）。《建炎以来系年要录》卷127“金遂移行台于大名”。又卷129：金以“行台户部尚书冯长宁为东京（今辽宁辽阳）户部使，自大名到东京凡五千里”，而冯长宁“削发左衽而赴任”。《金史·赵元传》记载，后又由大名迁祁州（今河北安国）。金熙宗天眷元年（1138）九月，改燕京枢密院为行台尚书省。《金史·百官志》的记载是：“行台之制，熙宗天会十五年罢刘豫，置行台尚书省于汴。天眷元年，以河南、陕西地与宋，遂改燕京枢密院为行台尚书省。天眷三年，复移置于汴京。皇统二年（1142），定行台官品皆下中台一等。”实际上废刘豫与废燕京枢密院为行台尚书省是两回事，不是将汴行台迁燕改燕京枢密院为行台，后又由燕迁汴。金在天眷元年九月，改燕京枢密院为行台；二年三月，金将河南、陕西地与宋，四月宋遣使谢河南地，不是把河南、陕西地与宋后才改燕京枢密院为行台。天眷元年是挞懒倡议把河南地与宋之时，而翌年三月才给宋，三月行台已由汴迁大名，后又迁祁州，三年复置于汴，管理长城以南、淮水以北地区。皇统元年，以燕京隶尚书省，而西京（今山西大同）及西京山后诸部隶元帅府。
行台尚书省设领行台尚书省事，如同朝廷设领三省事，位在左右丞相之上。下置行台左右丞相，行台平章政事；行台左右丞，行台参知政事。分左右司，下属六部各司，部各置官员及吏员。行台尚书省由都元帅兼，都元帅府与行台在领导上一元化。行台尚书省是金代在地方设置管理军民的一种特别的地域性组织。其初权限很大，诸州郡的军旅之事，决于元帅府，而民讼钱谷，由行台尚书省治之。到海陵天德初，以监察御史分司行台。监察御史由朝廷派遣，行台的权限因而缩小，并进而废行台尚书省之制。
金朝后期为加强对地方的统治，以适应战争的局面，于各地设行尚书省、行司和行部，以代替朝廷在地方行使统治。行省是在地方所设的对军民的统治机构，设官大体与朝廷尚书省同，“州民奉行省为领省”①。其制设无定，是一种临时性的设置，但它却为后来元代行省的设置打下了基础。
金于地方设路府州县，由于金是由女真族建立并占有原辽和北宋的一部分地区，因而在统一的路制之下的州县的设置具有区域和民族的特点，其名称与组织系统也不同，由此而构成金一代的地方官制的整体结构。
