第二集团军1937年8月上旬由原西北军一部组成的第二十六路军为主编组而成，集团军总司令刘峙、副总司令孙连仲，第二十七师、第三十师、第三十一师是该集团军的基本部队，属第一战区指挥管辖，第五十二军、第三十二军、第三军都曾加入过该集团军的战斗序列。该集团军是七七事变后最早进军华北增援第二十九军的中**队，曾在琉璃河、良乡等地区抗击日军。后奉令调归第二战区指挥，参加扼守冀晋要隘娘子关的战役。1938年初，该集团军调归第五战区指挥管辖，孙连仲继任集团军总司令，其基本部队编组为第三十军和第四十二军，该集团军在台儿庄战役中是担任坚守任务的主力作战部队，为台儿庄战役的胜利作出了巨大贡献。后韩复榘旧部曹福林的第五十五军、宋哲元旧部刘汝明的第六十八军也加入该集团军的战斗序列。1938年11月3日，该集团军第四十二军军长冯安邦在大别山战役结束后转进襄樊途中遭敌机轰炸而牺牲。1939年初，该集团军调归第一战区指挥。1940年又划回第五战区，长期驻守豫西南鄂北地区，曾参加过第二、第三次长沙会战的策应作战。1943年孙连仲调任第六战区司令长官，其基本部队随其调至第六战区，第二集团军总司令由刘汝明代理，下辖第六十八军、第五十五军及石友三旧部米文和的第六十九军，参加过常德会战及豫西鄂北会战。
第三集团军1937年8月中旬由驻扎在山东省的中**队奉令编组而成，首任集团军总司令为韩复榘、副总司令为于学忠和沈鸿烈，下辖第十二军、第五十五军、第五十六军和第五十一军，属第五战区指挥管辖，其中孙桐萱为军长的第十二军、谷良民为军长的第五十六军和曹福林为军长的第五十五军是其基本部队。1938年初，韩复榘因对日作战不利被国民政府军事委员会下令处决，于学忠继任该集团军总司令。该集团军曾参加台儿庄会战外围作战，第五十一军第一一四师师长方叔洪、第一○二师第三○六旅旅长扈先梅均在作战中阵亡殉国。1938年夏，第三集团军调归第九战区指挥管辖，集团军总司令为孙桐萱，但因第五十六军番号撤销(其第二十二师编入第十二军，第七十四师编入第五十五军)，而第五十五军加入第二集团军，第五十一军加入第三十一集团军，仅辖第十二军，后该集团军在江西参加武汉会战。1939年初，第三集团军调归第一战区指挥管辖，自此长期驻守河南。由于gmd政府对韩复榘旧部采取极不信任和限制、分化的政策，至1943年夏，第三集团军只辖有第十二军的第二十师、第二十二师、第八十一师。不久，孙桐萱被gmd政府借故撤职扣压，第十二军被编入中央嫡系汤恩伯的第三十一集团军，至此，原由韩复榘部队为主组成的第三集团军消失。随后，第三集团军的番号被转给中央嫡系胡宗南所控制的第八战区的部队，集团军总部设在甘肃武威，总司令为李铁军，下辖第九十一军的暂五十八师、骑十师、新编第四师等部，李铁军调任第二十九集团军总司令后，集团军总司令名义上由第四集团军第三十八军军长赵寿山将军继任，但实权控制在副总司令于达手中。赵原系杨虎城旧部，此次被蒋介石以升官名义调离原部队，剥夺了兵权。
