夏六月，袁绍大发兵马，先攻打黑山军部将于毒。吕布及张辽领兵随军行动，围攻于毒营寨整整五日，最终击破敌军，斩于毒及其下属万余人。紧接着，袁绍又引兵北行，先后攻破黑山军数个营寨坚城，势不可挡。
后来，袁绍在常山一带撞上黑山军主力张燕所部，一场血战无可避免。
张燕一部乃是黑山军中的精锐，有数万精兵、数千精骑，战斗力与朝廷官军基本无异，因此袁绍所部兵马并未能占到太多便宜。双方大战十余日，因死伤惨重，不得已而各自退兵。
吕布见状，请缨出战。
袁绍自然是知晓他能力的，便点头允诺了这件事，临行前，本打算拨一些兵马随同吕布一起进军，吕布却拒绝了袁绍的好意。
“主公不必担忧，布既打定主意要进军，必是心存把握，主公且在营中待布归来便是。”
说完这句话，吕布一抱拳，便率兵出城而去。
两军对峙之时，吕布亲自率精锐骑军冲击张燕的军阵，有时一天去三四次，每次都能砍了黑山军将领的首级回来。此番连续作战十余天，吕布终于找到张燕大军的破绽，以张辽为前锋纵兵猛攻，一战击溃数万黑山军，平定了绵延多年的黑山军之乱。
自常山战役之后，吕布的威名更是无人不知、无人不晓了。
许是本性难移，之前在张辽的劝说下，一直努力掩盖住的某些本性，在这时候已经暴露无遗。
吕布仗恃着自己的战功，一再地向袁绍要求增加军队，袁绍每次都是拒绝，虽说场面不至于闹得很僵，但是这事到底还是梗在了各自的心头之上。
再加上吕布手下的将士也倚仗着将军的风姿，不顾忌军中纪律，时时抢劫、掠夺，袁绍知道此事以后，便开始在心中疑恨他。
张辽看出来了其中的不对劲，寻找机会特意向吕布进言。
“将军现在本就身处高位，容易被人敌视，如今如此不收敛，只恐袁公不能容你。”张辽忧心忡忡道。
最开始吕布自己压根没顾及这些，听到张辽说这些话以后，这才猛然间有所醒悟。
他心下深感不安，总觉得如果自己再带着兄弟们在这里待下去，日后肯定要生出大麻烦，于是第二天一早，便急急地去寻了袁绍，说明了自己的意思，声称自己想要率部进驻洛阳。
“哦？奉先可是认真的？”袁绍诧异道，“若是我要强留你呢？”
吕布闻言，不由得大笑了几声：“布本就是归顺于袁公之人，若是袁公强留岂敢不留？只是如今布在外征战多年，实在是洛阳故土，心有所系，还望袁公体恤。”
袁绍心下本就不想要再留此人，此番干脆借势同意了他的要求，并以天子名义任命吕布领司隶校尉，派兵护送。
吕布临行前特地和张辽商议此事，他怀疑袁绍打自己的主意，明面上说是派兵随行保护，只怕暗地里多是不轨之心。
张辽也觉出来此事非同小可，沉吟道：“只怕袁绍已是心有芥蒂，打算派这些人暗中除掉你我。”
“那兄以为何呢？”吕布皱眉道。
张辽略一思索，忽地一笑：“将军不如先将计就计，待到行出一段距离以后再做决议。”
吕布闻言，只得先点头。
隔日，吕布一行人带兵出行没多久，张辽便声称天色渐晚，要扎营休息。营帐扎好以后，吕布和张辽二人，以侍从在营帐中弹奏古琴来迷惑监视的军士，趁着夜色逃奔了出去。
半夜，袁绍的甲士果然闯入帐中，对着二人的床榻一阵劈砍，却扑了个空。众人这才发现二人不知什么时候已经离开大营了。
天明之后，消息传到袁绍案台前，袁绍不由得一惊，心中唯恐此人日后成为大患，便立刻下令关闭城门，派出人去捉拿吕布。
然而这时吕布和张辽已经逃到河内，寻了一处落脚之地，开始召集昔日旧部，恢复实力。
袁绍担心吕布对自己不利，再次派兵追杀吕布，奈何众军士畏惧吕布的武力，皆不敢全力追杀，最终令吕布一行人有惊无险地逃出生天。
