前后典选五年，政既宽弛，胥吏多因缘为奸，贿赂大行。时天下承平，每年赴选常万余人。李林甫为尚书，专任庙堂，铨事唯委晋卿及同列侍郎宋遥主之。选人既多，每年兼命他官有识者同考定书判，务求其实。天宝二年春，御史中丞张倚男奭参选，晋卿与遥以倚初承恩，欲悦附之，考选人判等凡六十四人，分甲乙丙科，奭在其首。众知奭不读书，论议纷然。有苏孝愠者，尝为范阳蓟令，事安禄山，具其事告之。禄山恩宠特异，谒见不常，因而奏之。玄宗大集登科人，御花萼楼亲试，登第者十无一二；而奭手持试纸，竟日不下一字，时谓之“曳白”。
上怒，晋卿贬为安康郡太守，遥为武当郡太守，张倚为淮阳太守。敕曰：“门庭之间，不能训子；选调之际，仍以托人。”时士子皆以为戏笑。
天宝三载闰二月，转魏郡太守，充河北采访处置使，居职三年，政化洽闻。
会入计，因上表请归乡里。既至壶关，望县门而步。小吏进曰：“太守位高德重，不宜自轻。”晋卿曰：“《礼》：‘下公门，式路马。’况父母之邦，所宜尊敬。
汝何言哉！”大会乡党，欢饮累日而去。又俸钱三万为乡学本，以教授子弟。寻改河东太守、河东采访使，入为尚书、东京留守，征为宪部尚书。属禄山叛逆，杨国忠以晋卿有时望，将抑之，乃奏云：“宜以大臣镇东道。”遂出为陕州刺史、陕虢两州防御使。及入对，固辞老病，由是忤旨，改宪部尚书致仕。及朝廷失守，衣冠流离道路，多为逆党所胁，自陈希烈、张均已下数十人尽赴洛阳，晋卿潜遁山谷，南投金州。会肃宗至凤翔，手诏追晋卿赴行在，即日拜为左相，军国大务悉以咨之。既收两京，以功封韩国公，食实封五百户，改为侍中。后以贼寇渐除，屡乞骸骨，优诏许之，罢知政事，为太子太傅。明年，帝思旧臣，复拜为侍中。
晋卿宽厚廉谨，为政举大纲，不问小过，所到有惠化。魏人思之，为立碑颂德。及秉钧衡，小心畏慎，未尝忤人意。性聪敏，达练事体，百司文簿，经目必晓，而修身守位，以智自全，议者比汉之胡广。
玄宗崩，肃宗诏晋卿摄冢宰。上表固辞曰：“臣闻古者殷高宗在谅闇之中，百官听于冢宰，更无事迹，但存文字。且一时之事，礼不相沿。今残寇犹虞，日殷万务，皆缘兵马屯守讨袭，善算良谋，立胜擒敌。陛下若行古之道，居丧不言，苍生何依，百事皆废。伏读国家起居注，亦于礼部检见旧敕，恭惟太宗、高宗、大行皇帝在位之日，皆有国哀，视事不辍，以为君临天下，难徇常情。今遗诏有处分，皇帝宜三日而听政。陛下遵太宗故事，则无冢宰；遵大行皇帝遗诏，便合听朝。万姓颙颙，不胜大愿。伏惟陛下知理国之重，顺人心之切，以义断恩，从宜无改。今朝臣一命已上，皆言臣心昏貌朽，加以疾病，事有急速，断在须臾，凡圣不同，岂合受诏。陛下发哀已五日矣，愿准遗诏听政，则四夷万国，无任悲幸。”肃宗时疾弥留，览表殒绝，乃许。
