时，因部队被野猪皮努尔哈赤击溃，为避免受到军法惩处，潜逃回陕西绥德老家。
崇祯元年时，老回回率家乡部众造反，一开始隶属于闯王高迎祥，长期流窜于甘肃东部与陕西西部。
到崇祯四年，他率部窜入山西，编入了紫金梁王自用的三十六营之一，成为仅次于王自用和高迎祥的重要领。
崇祯七年末，老回回率部参加荥阳大会，成为十三家领之一。
之后，其与绰号“革里眼”的贺一龙，以及贺锦、刘希尧、蔺养成这五大流寇主力，共称为“革左五营”，亦称为“回革五营”。
老回回和他的部下，终成了一支具有强悍战力的著名流寇。
老回回手下的军兵，皆是包头拿小本本念经的民族，因为宗教信仰的原因，这部兵马相当齐心并且能打硬仗。
自起兵以来，老回回部流寇还从未受到过大的挫折，直到现在，全部兵马已展到近三万人。
老回回的手下兵马划分，也独具特色。
他不象其他的流寇领一样，把手下将领任命为大将，都尉之类，而是将手下兵马分成了数个盘。
每个盘由一名掌盘子率领，而这些掌盘子，基本皆是他的兄弟亲戚之类来担任。