西晋末年，并州匈奴人与其支族羯人起兵叛乱，大肆屠杀抢掠，并州大饥，公元三百零六年，并州百姓及士兵官吏两万余户在刺史司马腾率领下逃难求食，就谷冀州，后形成号为“乞活”的难民集团。
流民所到之处，势必受到排斥，因为哪里都缺粮食，所以冲突也就无处不在。为防止流民哄抢，各地纷纷组织武装防范。而流民受到攻击，就要自卫，也逐渐自发形成了自己的武装。
而乞活军也不例外，受到本土民众的攻击，还要防范胡人军队的劫掠攻杀，建立自己的武装力量是必然的。
司马腾是晋国宗室，后被封为燕王。他这样做有两个好处：一则将流民收编，使这些人有所依靠；二则形成了一支强有力的武装，便于谋食。
没有财产住所，只为活命乞食，这样的部队打起仗来无后顾之忧，十分勇敢强悍，成为司马腾麾下的一支重要军事力量。
乞活军最初是在大河两岸活动，先后为各方镇如司马越、苟晞、王浚等所驱使，卷入军阀混战，后由于胡汉矛盾的日益加深，这个矛盾上升为社会的主要矛盾，乞活军的主要活动也随之转变为抗击民族敌人匈奴刘氏和羯胡石氏。
公元三百十一年，洛阳陷于匈奴之后，大河以北的广宗和河南的陈留是乞活难民集团屯聚的两个中心，由于身处乱世，处境险恶，乞活流民在从事农业生产以求生存的同时，仍保留了武装组织，他们在与胡人的长期残酷斗争中磨练出顽强的战斗力，以骁勇善战、组织严密、持续时间长久著称。
当然，乞活军存在的根本目的就是在乱世中存活下来。在羯赵统治中原时期，乞活军迫于形势，为求活命自保，也曾一度被迫暂时与羯赵妥协。
但是其民族反抗斗争一直未熄灭过，一有机会就起来反抗胡人的残暴统治。例如陈留的乞活军统帅陈午临终时还告诫部众不要归附胡人！
公元三百四十九年后赵大乱，汉族官员李农逃奔广宗，被当地数万家乞活军推为首领，这反映了局势动**时汉族官员和百姓团结一致聚众自保的情形，可见当时胡汉矛盾之激烈。
原乞活部众冉瞻之子冉闵乘石氏兄弟自相残杀的混乱局势，在汉族百姓及李农所部乞活军的支持下，于公元三百五十年灭后赵，建冉魏，此时距离他们祖先随司马腾离并州已经四十余年。
乞活军和其它流民集团相似，世代蕃衍，首领多由同一宗族承袭。直到东晋末年，恭帝元熙元年，河南还有流民一千余户在洛阳金墉城南参加拥立东晋司马氏的举动，他们仍沿用“并州乞活”之名，而从公元三零六年至此已有一百十三年之久！
公元三百零九年，刚刚建立的乞活军活动在黎阳的一支分队在和匈奴前赵帝国的战斗中被打败，冉闵的祖父冉隆和叔父冉襄等亲人都殁于此役。冉氏家族留下一个十一岁的少年——冉瞻，带领所部乞活余部继续与胡人战斗。
第二年，前赵大将石勒攻打河内郡，由于寡不敌众，冉瞻战败。石勒徙冉瞻及其部众于兰陵郡。由于石勒这个家伙很会收买人心，自己收冉瞻为义子。
十八年后，冉瞻在和匈奴前赵的战斗中被斩于阵前。冉瞻死后，留下年幼的冉闵，他除继承了父亲的勇猛外，还善于使用智谋。
他只表现出了自己的勇猛，让石勒的侄子石虎很喜欢，毕竟勇猛的人都喜欢勇猛的人，石虎这个残暴至极的人将冉闵收为义子，赐予其石姓，让冉闵拥有了后赵宗室身份。
所以冉闵才能在羯人石氏政权中取得信任，拥有军权。并因为石虎诸子争权厮杀之际，扩大手中军权。
十四岁的冉闵初战就是昌黎大战，后赵二十万大军攻城不克，退却过程中遭到燕军慕容恪两千骑追击，被杀三万余人。其中只有冉闵所部无损一人，于是扬名。
此战后，冉闵成名，被石勒提拔为北中郎将，参加了防卫后赵北方边界的战事。当时北方燕代之地有内迁的丁零，乌桓，夫余等各族各部，时常有叛乱，外有慕容鲜卑常发兵寇边，战事频繁。而冉闵军事能力过人，在战斗中屡立奇功。之后二十六岁的冉闵率军于凌水河畔大败鲜卑燕军二十万，擒斩燕军七万余人，斩
