五胡十六国时期，匈奴、鲜卑、羯、氐、羌先后入主中原，北方战乱不堪，大量人民逃至南方，形成一股人口大流动。滞留北方的汉人则依靠坞堡自卫。
广大流离失所的百姓在死亡线徘徊，为了防卫自身安全也为了活命，广大流民组织起来与其他势力相互斗争。其中最活跃、历时最久的便是燕王司马腾的一支。
西晋末年，并州发生饥荒，再加上少数民族政权的掠夺，流民遍地。田甄、李恽、薄盛等将流民组织起来，号称乞活军，跟随燕王司马腾到冀州谋生。由于这群人只为了活着，家人多于饥荒和战乱中丧生，所以他们没有后顾之忧，作战勇敢、骁勇善战成为司马腾一股重要的军事力量。
起初，乞活军是在黄河两岸先后为各方镇如司马越、苟晞、王浚等所驱使，后来随着五胡内迁民族矛盾的加剧，乞活军的战斗对象也随之改变。
公元311年， 匈奴汉国刘聪攻打洛阳。乞活主帅李恽、薄盛等率领乞活军援救京师，刘聪败走。李恽等又在新汲击破王弥。同时石勒率军攻打幽州，乞活军将领田禋率领五万人援救幽州，石勒以少胜多击败乞活军。随后，石勒合兵攻打邺城，邺城陷落。不久石勒攻打中丘的乞活军赦亭、田禋部，击败并斩杀了他们。
接着，石勒袭击苑乡，攻打上白的乞活军李恽部，斩杀并李恽。并且石勒派遣石虎袭击梁城的乞活军王平部，大败而归。此时石勒正攻打蓬关的乞活军陈午部，王弥也和乞活军的刘瑞进入相持阶段。
公元349年，后赵大乱，汉族官员李农逃奔广宗，被当地数万家乞活军推为首领。另一支乞活军部众冉良之子冉闵乘石氏兄弟自相残杀的混乱局势，在汉族百姓及李农所部乞活军的支持下，于350年灭后赵，建冉魏，后李农被石闵诛杀。后来冉魏被燕国所灭，奋战数十年的乞活军渐渐退出历史舞台!
乞活军是中国最庞大的流民军团，虽然前期被司马腾等军阀所利用，但后期反抗匈奴等少数民族政权做出不可磨灭的贡献。
