孙殿英，小名金贵，字魁元（科元），1889年生于河南永城县孙家庄。在孙殿英年幼时得过天花，因而生了一脸麻子，后得绰号孙大麻子。其父因与一个旗人斗殴，结果将人打死，获罪入狱，最后死于狱中。孙殿英也和其父一样，从小就是个好斗之徒。孙幼年家境尚可，因而7岁时被送入私塾，但他常与同学斗殴打架，且常与一些无赖混在一起，广结流氓恶棍、军警胥吏，不务正业。他颇精于赌技，因而好赌成性；又贩卖毒品，坑骗钱财，到处惹事生非。
早年，孙殿英曾投靠盘踞于安徽省亳州城的姜桂题部下。1913年，他率部投入豫西张治公杆匪，流窜于豫西巩县、宝丰、鲁山一带，后来张治公被招安，任镇嵩军第二路标统，孙亦随之被招安，在张明部当马弁，与张合伙挪用库银，走私贩毒，牟取暴利。
不久，他看中了在豫西颇有影响的庙道会，因为可以利用其掩护贩运鸦片，当时孙殿英正在制造“红丸”，于是投奔庙道会会首李凤朝门下，大发横财，而两年后他竟然已经成为庙道会的一个首领，他利用贩毒赚来的钱又购买枪支，纠集徒众，发展势力。
1922年，他又率众投入河南陆军第一混成团团长兼豫西镇守使丁香玲麾下，并很快从副官升任机关枪连连长，同时他仍继续贩毒。
1924年第二次直奉战争爆发后，驻豫西直军开赴前线，孙殿英见此时豫西空虚，于是立即反叛，不服从上级调派，自立山头，然后再次用贩毒的钱招兵买马，扩大队伍，拥众数千人，自称“河南自治军”，他任总司令。他对匪众们说道：“跟我干吧！要截截皇杠，要日日娘娘，天塌下来我来顶。”
1925年春，镇嵩军将领、豫陕甘剿匪副总司令憨玉昆与国民军胡景翼部爆发大战，此时，孙殿英又一次接受招安，被憨玉昆收编，编为第五混成旅，孙殿英任旅长，驻防密县。其实陕西军阀刘镇华手下的这支所谓镇嵩军就是一个完全的土匪军，其下下分三路，由柴云陞、张治公、憨玉昆分任标统（相当于团长），而这几个人都是当初在河南嵩山当山大王的杆首，收编当上标统。因而当时陕西人称这支镇嵩军的军官都是“嵩山大学毕业的”。不但如此，这些标统为了扩大自己的实力，就把一些没能收编进来的土匪外放，作为其编外队员，既所谓的“外队”。这些“外队”与收编后的军队没有直接的隶属关系，但实际上当时谁都明白，这些“外队”就是某些标统的外围组织。“外队”仍然继续为匪，干着大家结社的勾当，因而表面上还是官军的敌人，官军还要负责围剿他们，但自然是永远也剿灭不了的。不但如此，官兵们还常与“外队”联系，互通信息，甚至有官军为其提供枪支弹药，而负责在外面带领“外队”的小杆首主要任务就是劫掠钱财，扩充实力，一旦这些“外队”有了些实力，就被再次招安，而一个连长放“外队”回来即可当上营长，营长则可当上团长。这种“外队”比土匪更为可恶，因为他们的靠山就是官兵，因而乡民们称之为“官匪”，也就是管家豢养的土匪。当时，不仅陕西如此，全国各地的官军几乎都有自己的“外队”。
孙殿英和许多被招安的土匪一样，朝匪暮兵，转换无定，当被招安收编后，就更加兵匪合一、兵匪难分了。其实土匪被招安收编为官兵，这在中国历史上是向有传统的。如脍炙人口的《水浒传》中的宋江、方腊两支农民军，在官府眼里就是落草为寇的土匪，他们最终也都被招安。每逢乱世，土匪横行，被招安的事也就多如牛毛，就如清帝国崩溃后的民国初期，在民国的将领中就有许多都是土匪出身，如奉系军阀首领张作霖、曾任吉林督军的张作相、当过伪满洲国总理的张景惠、当过热河都统的汤玉麟、当过绥远都统的汲金纯、老桂系军阀首领陆荣廷、曾任广西督军的谭浩明、当过广东省长的李耀汉等许多人，可以开列很长的一个名单，而至师长、旅长、团长一级的出身土匪的就更多了。
官府收编土匪，一方面是由于土匪为害甚深，难以剿灭，一方面也是出于军阀混战，急需要扩大实力。1930年，蒋冯阎中原大战前后，三方都拉拢土匪为其效力，蒋介石当时就大力收编河南土匪来对付冯玉祥，乃任命张钫为代理河南省主席兼国民革命军第二十路总指挥，专门收编土匪。当时经张钫收编的河南大股土匪就有许昌、宝丰之间的李万林股；临汝县的范龙章股；宜阳县的王殿阁股；嵩山地区李万如股；自由县（今名伊川）赵冠英股等，这些人都根据实力被封为师长。另外还有大量的民团。蒋介石为了宣示招抚之心，还特意在1931年冬，命张钫带领这一批土匪师长们，乘火车到汉口拜见蒋介石。蒋介石劝勉有加，并赏给每人500块银元作为见面礼。
话说回来，当孙殿英投奔憨玉昆不久后，憨玉昆就战败，孙殿英于是又投奔国民三军副军长兼第二师师长叶荃部，任任旅长，不久改称第二师，于是又升官为师长。但这官不好当，因为国民三军要由河南开赴陕西，孙殿英也和许多土匪一样，不愿离开盘踞之地，听编却不听调，因而拒不服从开赴陕西的命令。但他总的找一个依靠，于是与山东张宗昌联系，商谈收编。张宗昌此时正需要扩大势力，于是当即答应孙殿英。于是孙殿英率部起程前往山东。