汉武帝晚年思过，思想经常处于忏悔的状态中。后元二年（前87年）春正月，汉武帝在甘泉宫接受诸侯王的朝见。二月，巡游五柞宫。
五柞宫周围山清水秀，景色宜人。汉武帝心绪苦闷，想借山水之秀以解烦恼。早春二月，春寒料峭。汉武帝连日游览，偶感风寒。不料数日之后，竟然病入膏肓，卧床不起。
汉武帝明白自己可能将不久于人世。于是，经过深思熟虑后，他决定要让只有几岁的刘弗陵担当起承继刘氏大业的重任，并且还精心挑选着日后辅佐少帝的大臣。
当时，朝廷中大臣有田千秋、赵过、桑弘羊三人。汉武帝十分信任田千秋和赵过，委任他们推行自己的富民政策。虽然汉武帝因改过自悔而拒绝了桑弘羊的轮台屯田建议，但桑弘羊仍不失为一位著名的理财专家，因此，汉武帝仍然十分信任他，委以重任。
这三个人都是文官出身，将来定可以帮助少帝继续推行自己的富民政策，以完成自己未竟的事业。但是，汉武帝更渴求武官出身的大臣，以有足够的能力和权威来驾驭政局，稳固朝廷，辅助少帝治理国家。在武官中，汉武帝最亲信的人也有三个：一个是霍光，一个是金日磾，一个是上官桀。
汉武帝认真考察群臣，认为只有霍光可以承担辅保社稷的大事。
霍光是霍去病弟弟，十多岁便入宫为郎，出则奉车，入侍左右，侍奉汉武帝二十多年，小心谨慎，从来都没有过失，深得汉武帝信任。
金日磾字翁叔，原本是匈奴休屠王的太子。元狩二年（前121 年），骠骑将军霍去病率军出击匈奴右翼之地，大获全胜，虏获休屠王祭天金人。这年夏天，霍去病又进军祁连山，节节胜利。
匈奴昆邪王怕单于治罪，杀休屠王，率众降汉。汉武帝封昆邪王为列侯，而金日磾因为父亲不投降而受牵连，与其母阏氏、弟伦等俱没官为奴。当时，金日磾年仅14 岁，就被安排在宫中养马。
有一次，汉武帝乘游宴之兴，到御厩中阅看宫中所饲养的马匹。那些养马的人，都牵着自己所饲养的马，从汉武帝面前走过。唯独金日磾与别人不同，他恭谨守矩，目不敢斜视。汉武帝见他人所饲养的马匹多属平平，只有金日磾所养的马，个个体壮膘肥，油光可鉴。再看这个年轻的养马人，身高8 尺以上，容貌威严庄重。
汉武帝感到很奇异，便询问他的姓名、身世，金日磾一一对答。汉武帝赞许，当即便任命他为马监，赐衣冠，使主管宫中养马之事。后来，汉武帝擢升他为侍中、驸马都尉、光禄大夫，他成为汉武帝的亲信。
汉武帝非常尊重宠爱金日磾，赏赐累千金，出为骖乘，入则侍奉左右。贵戚们见金日磾受到如此恩宠，非常嫉妒。说道：“金日磾只不过是一个降俘过来的，凭什么受到如此的宠贵？”但是，汉武帝却不以为然，甚至对他更加好。
金日磾为人忠诚宽厚，做事恭谨，从不居高自傲。在汉武帝面前从来没有犯过什么错误。金日磾的母亲教诲两个儿子，很有规矩，汉武帝得知后很赞许。他母亲病死后，汉武帝下诏在甘泉宫为她画像，题名“休屠王阏氏”。金日磾每次看见画像都下拜，对着画像涕泣，然后才离开。
金日磾的两个儿子都被汉武帝所宠爱，是汉武帝逗乐子的弄儿，他们常在皇上身边。有一次，弄儿从后面围住汉武帝的脖子，金日磾在前面，看见后生气地瞪着他。弄儿一边跑一边哭着说：“爹爹发火了。”
汉武帝对金日磾说：“为什么生我弄儿的气？”
后来弄儿长大，行为不谨慎，在殿下与宫女戏闹，金日磾正好看见，厌恶他的**，于是杀了弄儿。这个弄儿就是他的长子。汉武帝得知后大怒，金日磾叩头告罪，把为什么杀弄儿的情况一一说出。汉武帝很哀伤，为弄儿掉泪，以后从内心尊敬金日磾。
巫蛊之祸前，马何罗与江充交好，马何罗的弟弟马通更因诛杀太子时奋力作战而得到封爵。征和二年（前91 年），汉武帝得知太子冤屈，就把江充宗族和朋党全部诛杀。马何罗兄弟害怕被杀，于是策谋造反。
