曹操陈留起兵的同时，袁绍已经到达了河北，董卓自知袁绍势力不可小觑，便企图拉拢他，让他做渤海（今河北南皮东北）太守，羽翼丰满的袁绍怎么会答应呢？
于是，初平元年（190年），袁绍在河北联合冀州牧韩馥，并联络关东（函谷关以东）州郡一起声讨董卓，同时，参与其中的有另外十七路人马，因为袁绍家世显赫、声名远播，大家一致推举袁绍为盟主，袁绍自称车骑将军，他还给其他将领授予官职，其中，曹操被授予奋武将军一职。
在盟会上，众将领细数董卓暴行，决心同盟除暴、复兴汉室，盟会结束后，祭祀杀生、大宴三天，宴会上，袁绍安排了各路人马，比如，驻军河内的是袁绍与河内军长，而负责后勤供应的则是冀州州长韩馥，后将军袁术则驻军鲁阳（今河南鲁山）。曹操拥有五千人马，但是没有根据地，在军队给养方面，不得不受限于陈留军长张邈的帮助，在军队指挥上，也受他管制，因此，曹操和张邈都驻扎在酸枣。一时间，天下豪杰，都唯袁绍马首是瞻，唯有鲍信告诉曹操：“不是所有人都有智谋，能抚平这乱世的人是你，才能与地位不相符，即便再强大，最后也会坍塌，这些人也许是上天派来为你开路的吧。”
袁绍集结天下英雄豪杰建立联军的消息很快传到了京城，董卓听后惊恐万分，他做了两手准备，一面调动军队严密把守洛阳，另一面不顾大臣们的反对，准备迁都长安，他还命人将洛阳城中的地主豪强叫到一起，给他们安上一个罪名，然后全部处死，并没收他们的财产。随后，他将整个洛阳城中的百姓，共有百万之多，全部驱赶到长安。
要知道，洛阳和长安之间相距三百五十公里，路途遥远，中间有崤山、华山，道路险阻，很多人体力不支、跟不上大部队，但是只能无奈往前走，因为董卓命兵在后用绳子驱赶，因此有很多人因为疾病和饥饿而死在了路上，道路两旁不断有尸体出现。董卓自己则是留在了洛阳，然后一把火烧了皇宫、民宅、街道，原本热闹又繁华的洛阳，顿时成了一片焦土，火势蔓延了方圆三百公里。
这年三月五日，汉献帝长途跋涉抵达长安，因为董卓还未抵达，朝廷内外大小事便由司徒王允主持，王允在董卓手下隐忍，也深受董卓信任。
袁绍可能没想到，因为他起兵反董，董卓便杀了他的叔叔太傅袁隗、太仆（主管车马交通事宜）袁基以及其他袁家老小，甚至连嗷嗷待哺的婴儿都未被放过，一共五十几条人命被害，一时间血流成河，惨不忍睹。
董卓留守洛阳，迎击前来讨伐自己的关东军，关东军虽然阵容强大，但是各路势力的首领都是热衷于割据称雄的大豪强，彼此并不团结，又各自惧怕董卓的凉州军团强悍实力，都只想保存自己，因此，大家各怀鬼胎，谁也不愿意当出头鸟。
有一次，各路将领在袁绍的大营开会，曹操对大家说：“大家起兵，为的是讨伐董卓。现在董卓劫走天子，烧毁宫室，全国人心惶惶。这正是消灭逆贼的好时机，为什么还要犹豫不决呢？”
尽管曹操说得慷慨激昂，大家可一点也不热心。连盟主袁绍都不想动，谁还愿意先动手呢？
曹操看出他们只想保存实力，不想打董卓，心里很生气，就决定单独带着五千人马，向成皋（今河南荥阳汜水镇）进兵。所以便率兵向西，准备进驻成皋，张邈也派卫兹领兵随军。
董卓听到曹操向成皋进兵，早已派大军在汴水（在今河南荥阳西南）边布好阵势。曹操的人马刚刚到汴水，就遇到董卓部将徐荣的拦击。
徐荣兵多，曹操兵少，两下里一交战，曹操的人马就垮了下来。曹操骑着马往后撤走的时候，肩上中了一箭；他赶紧拍马逃奔，又是一支箭，射伤了曹操骑的马。那马一受惊，把曹操掀了下来。
后面徐荣的追兵呐喊声越来越近。正在危急的时候，曹操的堂弟曹洪将马给了曹操，曹操不接受，曹洪便说：“天下可无洪，不可无君！”便让曹操上马，自己徒步追从，趁夜逃走。而徐荣见力战了一日，酸枣又不是易攻之地，便率领兵马回去。
