刘备这才答应下来，带着关羽张飞和自己的部队入住了小沛，徐州也就安宁了，曹操挥兵杀到兖州，受到陈宫的埋伏，幸好郭嘉技高一筹，没有损兵折将，围困了兖州。
刘备久居小沛，小沛的市民都开始接受刘备，很快城中的百姓都对刘备很是爱戴，这消息传到了陶谦耳朵里，陶谦欣慰自己没有选错人选，这刘备正是徐州牧的不二二选。
曹操带军会攻兖州，曹仁带着豫州的士兵也过来会军，曹操看到曹仁到来向他问道目前兖州的情况，曹仁说：“现在吕布占据了兖州周围的州郡，在城中肆无忌惮，已经惹得人民大怒，很多贫民都要逃出城来，但是有个陈宫在他身边我们恐怕不能取胜。”
“吕布有勇无谋不用担心，只是这个陈宫倒是有几分分量，你立刻带兵去前面泰山查看，看看有没有伏兵屯聚于此。”曹操说完，曹仁领命便带着自己的部队到了泰山四处查看，没有发现陈宫的伏兵，就呆在这里伏击，等待大军到来。
兖州城中，吕布和众将高兴饮酒，门外探子来报说曹操回军已经到了兖州边境，吕布慌忙说怎么遇敌，陈宫献计道：“这泰山是必经之路，我们只要在泰山设伏一定能够杀的曹军大败。”
吕布觉得这不好，就摇头笑说道：“这曹操自来就多疑，必然会让士兵前去侦查，我们现在去反倒中了曹操的奸计了。”陈宫这才醒悟过来，就没有再说什么退下了。吕布下令全军坚守城池没有命令不得出战。
曹操带兵到了兖州城外，曹仁的军队赶到，李典、于禁、周明、李友、乐进和曹洪纷纷赶到，在城外叫战，吕布不让众将出战就是要激怒曹操军攻城，曹操失了兖州必然大气，就会猛然攻城，这就是吕布要等的时机。
城中有一猛将，就是那个从刘表处逃出的臧霸，字宣高，挺一计长枪骑马杀奔出来，口中大喝道：“曹军何人敢于我大战，出来受死！”乐进领了命杀奔出去，和臧霸大战数十回合不分胜负。
夏侯敦大喝一声杀奔出去，张辽拦路二人酣战，两人也是大战数十回合不分胜负，吕布挺戟杀将出来，将夏侯敦和乐进打败，曹操领兵退了回去，坚守要塞不出，吕布拿曹操没有办法只有退去了。
回到城中陈宫又向吕布进言道：“将军，现在曹操一定会夜袭西面小寨，我们唯有先率兵前去西面小寨支援，不然西面西面小寨失守，我们就没有后路了。”
“先生说的很对，现在我们就派兵前往西面小寨，但是城中由何人来守比较好？”吕布担心曹操会继续攻击兖州城，就问陈宫的意见。
“要守住兖州只有张辽能够胜任！”
吕布就听了陈宫的话让张辽镇守兖州，告诉他兖州一定不能失去，曹操半夜命于禁带兵潜行过了兖州袭击西面小寨，怎奈吕布已经早一步到了这里，于禁受到强烈攻击，四面环敌，曹操得知消息带兵随后赶到，于禁已经和臧霸大战的精疲力尽。
“文则莫慌，我们来助你！”李典、周明和李友杀将上去，和臧霸大战三十多个回合，臧霸方才败下阵来，吕布骑马杀到，三人不敌退回曹操军中，曹操正要引兵离开，怎奈西侧出现大批敌军，为首的正是吕布手下的高顺、魏续和侯成，三人突然杀到让曹军大受挫折。
“何人是曹操？纳命来！”侯成一马当先杀到军中，砍了数个士兵的头颅，冲到曹操阵前，曹操引剑杀出，和侯成大战，李典看到主公和侯成大战上前助阵，侯成无奈只有退回去，等到高顺和魏续杀到又杀将回来，但是为时已晚。
典韦和许褚因为荀彧的告捷带兵前来支援，曹操欣慰不已，亲自领兵追杀侯成，但是后军却遇到另一波敌人的攻击，来者是吕布手下的曹性、成廉、宋宪带兵杀出，吕布也从正面带兵勇往直前，曹操有朝着东侧逃出。
吕布飞马冲上来要杀了曹操，夏侯敦及时赶到将吕布抵住，二人酣战，又加上典韦等人赶到吕布不敌只有撤退了，加之滂沱大雨已经悄然来到，两军才鸣金收兵回营去了。
