耶律德光病死于北返途中以后，五月中旬，刘知远率军南出阴地关（今山西灵石南关），经晋州（今临汾）、陕州（今河南三门峡市西），直奔洛阳，各地纷纷迎降。六月初到达洛阳，并准备前往汴州，首先密令处死李从益，中旬初到达汴州。十五日（7月5日），刘知远改国号为汉，次年改元乾祐，史称后汉，是为后汉高祖。并改汴州为东京开封府作为都城，洛阳为西京，作为陪都。各地纷纷杀死或驱逐辽官后降汉，后晋邺都留守杜重威降辽后，仍任邺都留守，后汉建立后仍拥重兵据守邺都，并抗拒改任宋州（今河南商丘南）节度使之命。后汉派高行周率军前往镇压。九月，刘知远又亲往督战。十一月，杜重威出降，后汉终于统一北方。统治地区包括今山东、河南二省，山西、陕西二省大部，以及河北、宁夏、湖北、安徽、江苏等省的一部分。
后汉乾祐元年（948）正月下旬，登上皇帝宝座不满一年的后汉皇帝刘知远病死，子刘承祐即位，是为隐帝。河中（今山西永济西）李守贞、永兴（今陕西西安）赵思绾、凤翔（今属陕西）王景崇，相继叛乱。后汉派郭威任统帅，节制西征诸军，次年秋、冬，三镇先后平定。后汉隐帝更加骄纵，宠任外戚、伶官，听信谗言，于乾祐三年（950）十一月，杀害开国功臣杨邠，以及大臣史弘肇、王章，并遣密使前往邺都，准备杀害枢密使、邺都留守郭威，杨邠、郭威、史弘肇都是顾命大臣，受遗诏辅佐隐帝，威望很高，却无辜遭杀害或将被杀害，引起朝野不满，当郭威得知消息后，随即以清君侧为名，发兵南下，各地纷纷迎降，隐帝亲自督军阻击郭威于开封北郊，又为郭威所败，后汉军纷纷投降，隐帝在逃跑中为乱军所杀。郭威进入开封后，请后汉李太后临朝听政，并议立后汉高祖侄刘赟为帝，作为代汉的阶梯。
后周兴亡乾祐三年（950）十一月，辽军攻陷内丘、饶阳（今皆属河北），郭威奉命率军北上抗辽，到达澶州（今河南濮阳）时发生兵变，将士撕黄旗被在郭威身上，被拥立为帝。郭威即率军回到首都开封，次年正月五日（951年2月13日），郭威登上皇帝宝座，国号周，建元广顺，史称后周，是为后周太祖。仍以东京开封为都城，以西京洛阳为陪都。
正等着当皇帝的刘赟随后被杀死于宋州。后汉高祖之弟、刘赟之父、河东节度使刘崇，随即于同月建北汉于太原，依附于辽朝。
后周建国后，首先罢去唐代末年以来的所谓“斗余”、“秤耗”，以及各地进奉朝廷的“羡余”物，并除去苛刑峻法，还罢除以三司军将担任各藩镇的都押牙、孔目官、内知客等官，免除各地贡奉的珍美食物及珍宝等，一改唐末以来的不少积弊，政治上逐渐走向清明。
北汉建立后，以辽军为援，进攻后周边境晋州近两月，后周援军进至晋州以南的蒙坑（今山西曲沃北），辽军久征思归，闻讯后首先烧营夜遁。后周援军进入晋州后，追击北汉军至霍邑（今霍州）。次年，后周太祖又平定泰宁军（今山东衮州）节度使慕容彦超的叛乱，后周统治终于稳固。
权臣王峻身兼枢密使、宰相，并强求兼领重镇青州（今属山东）节度使，专横跋扈，傲视太祖，广顺三年（953）春终于被贬死。同年冬，郭威病，又杀掌握军权的权臣王殷。显德元年（954）正月，太祖死，养子柴荣即位，是为世宗。
北汉主刘崇认为后周太祖新死，是攻灭后周的最好时机，又请援兵于辽，辽汉联军南下进逼潞州，后周世宗率军前往抵御，两军相遇于高平（今属山西）南的巴公，后周先败后胜。
高平战役后，世宗果断处死临阵率军先逃的大将樊爱能、何徽等，整肃军纪，一改唐末以来对骄将惰卒的姑息政策，士气大振。后周军又乘胜北攻太原，后因阴雨连绵，疫病流行，退兵南归。世宗随即淘汰老弱，招募勇士，亲自阅试，精选士卒。从此，后周兵强马壮，战斗力大增，世宗遂决心削平割据，统一全国，采纳王朴建议先易后难、先南后北的战略。
