宋孝宗内心强烈主战，这些宰相未能实现他的渴望。于是，他开始大力整顿军政，裁汰老弱残兵，训练、补充各地驻军，为抵御金兵做准备。在选拔将帅人选上，他对虞允文寄予希望。虞允文，四川人，以父荫入官，绍兴进士。曾出使金朝，见金有南下意，就回奏加强战备。金人号称百万，实际上是40万，准备南下攻宋。此时宋军才一万八千人，而且军中却无作主的将领。虞允文正在犒师采石，看到情况非常着急，他便主动招集诸将议事，“勉以忠义”，并以“金帛”、“功名”相告，稳定军心，督师击溃金军，表现了杰出的军事才能。1167年（乾道三年）二月辛巳，虞允文自端明殿学士、提举太平兴国宫迁左太中大夫除知枢密院事，出任四川宣抚使，宋孝宗对虞允文说：“朕惟功业不如唐太宗，富庶不如汉文景。”为了雪耻，允文在蜀一年，练兵讲武，发展经济，备用军饷，卓有成效。于是决定1169年（乾道五年）和1170年（乾道六年）两年内，由陈俊卿、虞允文为相。1171年（乾道七年），就由虞允文为独相，连续四年拜相。1172年（乾道八年）二月，宋孝宗改革宰相制度，将仆射官名改为左右丞相，虞允文改为左丞相，梁克家为右丞相。虞允文为相期间，反对割地议和。在准备北伐同时，他也有顾虑，深怕因北伐不利而遭不测。而且，与他同朝为相的梁克家又是不主战的，两个志“不苟同”的宰相必然会受牵制，因此，1172年（乾道八年）九月，他就主动辞去相位，到四川任职，继续备战。但当第二年宋孝宗要求他出师时，他却以“军需未备”无能为力解决战备为由婉拒了宋孝宗的要求，引得皇帝的“不乐”。虞允文出入将相二十年，孜孜忠勤无二心，最后去职，1174年二月，因病去世。
1173年（乾道九年），宋孝宗决定由梁克家、曾怀为相。梁克家，福建人，绍兴进士第一。聪明绝人，不喜空谈。他认为“边议不过三说：将、兵、财”，当时应以扩充国家财用为先，在用度不足的情况下，不可对金用兵，“不量力而动，将有后悔”。后因在使金朝一事上与之不合，1173年十月辞去相位，仍劝说宋孝宗不能要求建立奇功。后由曾怀自参知政事迁左宣奉大夫，拜相，接替梁克家的工作。1174年（淳熙元年），曾怀、叶衡分任左、右相。1175年（淳熙二年），改由叶衡为独相。
叶衡，浙江金华人，绍兴进士，在地方任官时有治绩，为诸县之最。如遇水灾大疫，发仓救济，叶衡曾“单骑命医自随”，到处求急，偏问疾苦，使得存“活者甚众”，因此而得到好评。叶衡负才足智，尤其精于处理兵事。1174年十一月，从端明殿学士、自兼枢密使、参知政事迁通奉大夫，除右丞相，拜相。从一个小官不到十年就升任至宰相，任用速度之快少有。宋孝宗锐意恢复北方失地，凡将帅、器械、山川、防守都经过周密的思虑。有一次，孝宗皇帝告诉宰相执政们，要选一个使臣出使金朝。叶衡就奏说：有个叫汤邦彦的司谏，有口才有辩能，适宜出使金朝。司谏是一个掌握规谏讽谕的官职，凡朝政的缺失、大臣们以至文武百官任用不当的情形都由他谏正。汤邦彦从中打探，得知朝廷之所以会派遣他出使金朝是出于叶衡的推荐，于是痛恨叶衡在排挤自己。当他听说叶衡在对朋友说话中曾经有过讥笑皇帝的语言，就急忙上奏。孝宗皇帝听后大怒。于1175年九月即日罢了叶衡的相位。后来，汤邦彦出使归来，果然有辱使命，孝宗更为震怒，更将叶衡放逐到岭南。叶衡一生上去得快，下来也快，享年62岁。[1]这一变动，以致造成1176—1177年（淳熙三年—淳熙四年）两年中，相位的空缺。
