取得黎阳仓，稳定住形势之后，杨玄感便开始露出了他的獠牙。
杨玄感宣布在黎阳城内，关闭城门，大搜男夫，充作兵丁。又下令打开黎阳仓的库藏，分发给众人，并设置官署，废除杨广登基以来的一切新定制度，所有制度都按开皇年间的办法来办。
杨玄甚至连杨广改州为郡也不承认。
他又送文书到周围的州郡，以讨伐来护儿为名，让他们发兵，到粮仓所在地相会。
此时元务本、赵俊用等人才后知后觉地发现杨玄感这不像是要剿匪，反而是要造反。二人后悔不已，但是二人已经上了杨玄感的贼船，这时候作为杨玄感攻破黎阳仓的功臣，二人也下不了船了。
杨玄感为了收拢人心，对于此二人倒是不吝封赏，他将汲郡一分为二，东部以黎阳城为治所设黎州，元务本为黎州刺史。西部以卫县为治所设卫州，赵俊用为卫州刺史。
又以杨氏旧臣河内郡主簿唐祎为怀州刺史。
此时杨玄感手上有一万五六千人，他又挑选输送军粮的民夫中身强力壮者五千余人，丹阳、宣城郡的水手三千人，联合诸郡兵员，勉强凑了两万五千余人。
不得不说杨广在河北的穷兵黩武倒是帮了自己的忙，因为多重天灾人祸，黄河两岸的兵源早就枯竭，杨玄感虽然大肆搜索，可也没有征到多少人。
而且出人意料的是，黎阳仓内的确粮食充足，但是武器甲胄却没有多少，一部分被杨广在上一次征讨高句丽的时候给霍霍了，剩下的也早就拉到了涿郡。
有些跟想象的不一样，但杨玄感没有办法，只得用帆布作牟甲，而士兵每人只有一柄单刀，一个柳条盾，没有弓箭，也没有铠甲。
这样的军队，跟那些造反的民军没多大区别。
但事已至此，造反可没有回头路，无论如何也得进行下去。
杨玄感有些想家了，在弘农郡他的老巢，可是储备了无数的物资，都是为了造反用的，但现在全都用不上。
准备妥当之后，四月十八日，杨玄感杀三牲誓师，并以治书侍御史游元祭旗。
游元曾跟随黄明远北伐，此时已经六十岁的他还在黎阳督运军粮。杨玄感起事之后，便扣押了游元，并劝其投降。
游元乃是名臣，若能从之，必能大涨义军声望。
杨玄感对游元说道：“杨广乃是一个独夫，逞肆暴虐，已经使自己陷于绝远之地。今天下大乱，暴民四起，这是上天要亡了杨广。如今我亲率义兵，诛杀无道之君，匡扶社稷，乃是顺应天命，游公何不与我一同来做此事。”
游元愤怒地斥责道：“杨玄感，你也是国之重臣，深受国恩之人。汝父先楚公深受两代天子的宠信恩遇，近世无人可比，你们弟兄几人也都位居高官显爵，正是对国家竭诚尽节，上报鸿恩之时。今汝父坟土未干，您就亲自策划谋反！死后如何去见汝父。我游元虽不能杀贼，但唯有一死而已，绝不能从命！”
杨玄感无奈，只得将游元关押起来，屡次以兵器威胁，都不能使游元屈服，今日大军誓师，他便本着废物利用的心思，杀游元祭旗。
杀死游元之后，杨玄感走到众人面前，高呼道：“杨广无道，不以百姓为念，致使民不聊生，天下骚扰，死辽东者以万计，此皆杨广之过也。今玄感与君等起兵以救兆民之弊，何如？”
众人也早就对这个朝廷恨之入骨，因此纷纷高呼万岁。
杨玄感看着振奋的人心，心怀大慰。
誓师之后，便是分拨调遣军队。黎阳乃四战之地，又已经疲敝不堪，众人自然不能困守黎阳。
诸将对下一步该怎么走议论纷纷，有人以为趁机南下，还有人建议西进河东，更有人认为应该坚守黎阳······
杨玄感乃问策李密道：“法主（李密小字）兄，子常以济物为己任，今日正是时候，汝观今日之形势，计将安出？”
李密其实在此之前早就思索了杨玄感的出路，略有沉思，便说道：“天子出征，远在辽外，去幽州犹隔千里。辽西之地，南有巨海，北有强胡，中间一道，理极艰危。若公能拥兵出其不意，长驱入蓟，据临渝之险，扼其咽喉。杨广归路既绝，高丽闻之，必蹑其后，不过旬月，资粮皆尽，其众不降则溃，可不战而擒，此上计也。”
