作为地方武装的“团练”，有“乡勇”和“团勇”之分。随营作战，由官方供给口粮的，为“乡勇”；在地方乡绅所筑的堡垒中担负防守，不由官方提供口粮的，为“团勇”。团练并不是大清国的发明，但在晚清，特别是在与太平天国的作战中，它却发挥了特殊的作用。究其原由：一是自鸦片战争以后大清的国库日渐空虚，已不堪军费重负，致使军饷短缺、装备低劣；二是官场腐败和任人唯亲，致使八旗兵和绿营兵军纪涣散、缺乏训练，大大降低了战斗力。因此，正规的官军在与太平军和捻军作战时，经常是一触即溃。在这种情势下，“团练”反倒成了对抗起义军和维护大清统治的骨干力量。
以曾国藩为首的湘军，就是从团练转化为正规军的。1859年初，在安徽办团练屡遭失败的36岁的李鸿章投奔湘军大营，在曾国藩的帐下当了幕宾。提些建议和起草个文书什么的幕宾，和当编修没多大区别，所以李鸿章多有去意。直到1861年，为了解决战线延长、湘军兵力不足的问题，曾国藩派李鸿章到安徽去招募淮勇，并依照李的请求调拨八营湘勇编入淮军。世有“淮由湘出”之说，自有其理，但由于湘、淮两军成长的背景不同，且首领的个性不同，两军就有了明显的区别。从人员组成的结构和骨干将领而言，湘军以骁悍的山民“湘勇”为主力，其将领大多为有些功名的中下层文人举子；淮军则来源驳杂，其将领有团练头领、盐枭、降将等各种身份来源。曾国藩常以封建道德的“忠义”说教来治军，李鸿章则更多地诱之以利禄。这也是李鸿章的精明之处——他知道，文人举子固然追求功名利禄，但他们要“脸面”，常常用仁义道德来掩饰私欲；而那些不怎么读书识字的兵勇悍将不同，他们不必也不想掩饰卖命的动机，无论忠义，有奶便是娘。
有了独掌淮军的资本，李鸿章平步青云的机会便来了——他很快就当上了江苏巡抚。当然这自然离不开曾国藩的举荐，但同时这也是适应了清廷的需要。“听政”不久的慈禧和“议政”不久的奕，都想尽快铲除心腹大患太平天国，给李鸿章加官晋爵，就是要利用淮军安定两淮，不让太平军立足苏北，进而压迫苏南。或者清廷还有一个暗打的算盘，那就是以淮军制衡湘军，不让朝廷倚重的湘勇一军独起。如果的确有这个算盘的话，这种算盘肯定是议政王奕打的，慈禧不会有这种远见。所以，后来的淮军坐大，不仅有李鸿章的苦心经营，还应有奕明里和暗中的支持。
果然，1864年11月，在湘军攻陷太平天国的都城天京后不到四个月时间，清廷诏令拥兵30万并督办江、浙、皖、赣军务的两江总督曾国藩调往皖、鄂交界处督办军务。又过了些日子，李鸿章接手两江总督，曾国藩则被任命为钦差大臣，赴山东督军。实际上，曾国藩已被李鸿章取而代之了。
当李鸿章出任直隶总督、兼北洋通商事务大臣时，他就有了相应的外交、军事和经济大权，由此也就成了名正言顺的“中堂大人”。比起曾国藩，他可说是青出于蓝而胜于蓝。李鸿章的过人之处在于，在对付朝廷的时候，他把曾国藩关注的官场“面子”和“个人利益”有效结合了起来。
例如每次进京，除了拜谒慈禧和同治帝，他都要拜会权臣奕及文祥、宝鋆等，从而得到了他们的赏识、信任和看重。特别是为了军事目的而重视洋务的态度，在议政王这里就不仅仅是赏识了，它肯定是与议政王的想法产生了共鸣。宦海沉浮，需要实力、机敏，更需要靠山。
