但即便老洋人诱杀了萧春子，吴佩孚仍然不信任老洋人，自然，这不是简单地因为他盘剥勒索百姓，他当然清楚老洋人匪性难改，而是因为老洋人的实力越来越强，最重要的是，老洋人虽然在吴佩孚的地盘上，但他始终是个不稳定的力量。在军阀混战的年代，像老洋人这样拥有一定实力的土匪历来是各家争取的对象，所以，很难说如果将来老洋人会倒向哪一边。再者，这老洋人不是一般的毛贼，他是个颇有军事头脑的巨匪，故而，在直系、奉系、皖系互相争权夺利的年代里，吴佩孚实在不情愿在身边养着这样一头不定性的恶狼，说不定哪一天会被他咬上一口。而且，吴佩孚也从情报人员那里获知，皖系和直系也的确在派人与老洋人联络；此外，临城劫车案一事也让吴佩孚担心，直系、皖系很可能再次利用老洋人在他的地盘上策划什么阴谋，因为当时风传临城劫车案就是直系策划，目的就是制造事端，让山东军阀失信于西方。
而最终让吴佩孚下定决心铲除老洋人的是，不久前在西川发生的军阀混战中，四川土匪成了各军阀争夺的焦点，而四川土匪也由此成了决定谁能主宰四川的重要筹码，吴佩孚当然不愿在河南重演这一幕。10月间，他开始筹划彻底消灭老洋人，为此，他一面命令老洋人所部开到四川去，帮助站在直系一边的军阀杨森打仗，借此削弱甚至消灭这支招安队伍；另一面，他也预料到老洋人可能不会乖乖听命，因而，他暗中调动苏、鲁、皖、豫、陕五省军队、共计4万军队围歼老洋人。10月上旬，山东郑士琦、江苏陈调元、安徽马联甲的军队从东面的三个方向开始向豫东方向运动；驻守洛阳附近观音堂的陕西军队和驻河南的靳云鹗、胡景翼等军则从西面的三个方向向豫东进发。吴佩孚的计划和当初靳云鹗的计划一样，也是分进合击，在抵达各自目的地后，各路官军分就立即奔赴老洋人部所驻守的几个县，各个包围，勒令交械，然后给资遣散。
但吴佩孚显然还是过于小看了这个老洋人，尽管他调动部队的命令是秘密下达的，老洋人却在各省都布有自己的眼线，尤其是剿匪部队的动向，老洋人了如指掌，因而，当这些部队一动，老洋人就已经知道。而当吴佩孚命令他开赴四川的时候，老洋人当即就明白了吴佩孚的葫芦里卖的是什么药。所以，吴佩孚的军队一出营房，老洋人的也立即闻风而动。10月16日，他连夜下令各县部属迅速集中到鹿邑。第二天，永城、夏邑两县人马到达鹿邑。宁陵县的人马于18日晨正准备出发时，探子来报，山东军队己越界赶到。该部急行军奔往柘城，同那里的一股会合，将县府库存钱粮和商店劫掠一空，并打开监狱释出囚犯，随后直趋鹿邑县集中。
10月19日，老洋人宣布反叛，重新拉杆起事。他下令在鹿邑县城内放火，任由部下大肆抢掠；然后分作两股，分别由他和张得胜率领，向西前进。
吴佩孚没有想到老洋人如此干脆利索，行动也快速果断，只好命令苏、鲁、皖三省军队紧追其后，但由于老洋人早有预防，因而这些追击部队只能勉强与老洋人的后卫部队交上火，因而几乎没有什么战果。靳云鹗现在再次与老洋人面对面地较量，他深知老洋人难对付，因而他并不疲于奔命，而是坐镇许昌，指挥第十四师守卫京汉线，防止老洋人越过铁路窜回豫西老巢。他估计匪队一定会避开许昌，而从西南方向越过京汉线，因此特别命令郾城、遂平、确山等县驻军加强戒备，并备有运兵列车以便随时往来增援。但靳云鹗还是没有预料到老谋深算的老洋人中途忽然掉头，偏偏就直奔许昌而来。老洋人命令各部就从许昌附近笔直地插入，然后按照预定计划分别前进。老洋人一股沿西华、扶沟、鄢陵、临颍等县，从许昌以南直趋京汉铁路。
直到临颍，老洋人才硬碰硬地与靳云鹗的部队打了一场，由于是正面交战，老洋人的土匪终究战斗力不强，损失很大，但老洋人还是越过铁路向西逃去。
老洋人的举动打了靳云鹗一个措手不及，当他得知老洋人从许昌直扑京汉铁路的时候，急忙命令京汉铁路上通过许昌段的列车紧急停运，当该股杆匪经过铁路时，沿途车站急电许昌，以致许昌南下的火车开出后又吓得退了回去。
而张得胜一股则绕到许昌以北，从官亭越过铁路，虽也遇到官军阻击，却掳走了官亭车站站长。至此，吴佩孚调集五省军队合围老洋人的计划彻底失败，他不得不重新调整围剿计划。
10月下旬，老洋人重返豫西，在宝丰、鲁山至南阳一带的伏牛山中恃险顽抗。
老洋人一路突围而来，虽然交战不多，但还是损失了不少的人员枪械，但也有一个不错的收获那就是老洋人在与吴佩孚的周旋中声名大振，而精明的老洋人竟然也充分利用这一点，在沿途尽量减少损失，甚至能不费多少周折就弄到枪支弹药和各种补给。当老洋人来到鲁山县城时，就命令码子们对城上官兵喊话，如同当初在阜阳城下喊话一样，再次允诺给以重金，而这一次收城士兵鉴于老洋人的威名，竟然轻易地就打开了城门，于是老洋人顺顺利利就获得了城中储备的大批枪械子弹。同样，由于老洋人再次声名远播，活动在豫西的其他杆匪也纷纷前来合杆。例如原在苏鲁边界的范明新股匪，窜入河南后，屡遭打击，范明新死后，余匪全部投入老洋人麾下。又如，一向在登封、伊川之间活动的姜明玉，也率众南下合杆。因此，老洋人杆的势力不仅很快恢复，而且得到扩大，人数达到六七千人。
老洋人成功逃出吴佩孚的包围圈不但让吴佩孚吃惊不小，也让北京政府感到恼火，因为曹锟已经得到确切情报，皖系皖系政客已派人与老洋人联络，并邀请丁保成到天津设置通信机构，于是曹锟限期捕获老洋人。为此，河南督军张福来亲自坐镇许昌，指挥官军进剿。靳云鹗则仍为剿匪总司令，紧急调配兵力，然后大批官军直奔豫西老洋人的老巢杀来。
这一次，老洋人仍然故伎重演，他还打算分兵突破，他指派姜明玉率2000余人向西北突围，自己则领着4000余人南下。
当然，老洋人也不是为了突围而突围，他是有明确目的的，这次他的方向就是湖北，他需要避开河南军队的追剿，需要到湖北去避一避风头。从11月4日至14日，他带队从鲁山出发，经叶县、方城、南阳、泌阳等县，抵达豫鄂边界的湖阳镇。这段路并不很长，但杆匪竟用了11天时间，与1922年10月他们用10天时间横贯豫省相比，一方面表明了此次官兵的围堵使匪队行动受阻，另一方面则说明了匪势似乎确也不如当初之盛。而且这一次由于吴佩孚严令追击、围堵，因而这次跋涉老洋人四处受阻，杆匪到湖阳镇后，即受到湖北襄郧镇守使张联陞所部的阻击，被迫向东进入泌阳县母猪峡。但当到达此地后，以桐柏山为中心的豫鄂两省大小杆匪纷纷前来合杆，一些乡镇团防也被迫携械投降，老洋人股匪势力猛增，竟达万人左右。
可是，这些杆匪大多数都是徒手歹徒，他们没有多少武器，自然也就没有多少战斗力，老洋人只好与丁保成等商议，决定避免与官军正面交锋，取道湖北进入四川，他是希望利用川省军阀混战的形势，重新打出一个局面来。这倒是应了吴佩孚当初的打算，可惜老洋人现在已经不再是官军，而是官军围剿的目标。
老洋人一经决定就当即拔营起寨，上万匪徒黑压压的一片自母猪峡冲出，沿豫鄂边界向西，一路经过唐河、新野、邓县，时时越过省界试探一下，企图窜入湖北。此时，靳云鹗也已判断出老洋人很可能有意逃出河南，他倒是情愿老洋人逃出河南地界，只要逃出河南他也算是大功告成了，于是，靳云鹗立即下令，严令河南官军务必加紧追击，早已迫使老洋人滚滚出河南。相反，湖北军队则如临大敌，密切监视着老洋人的动向，并沿边界处处设防，极力不让土匪进入湖北。结果，老洋人本想借道湖北进入四川，现在却如同处在两个铜墙铁壁之间，两省军队都竭尽全力阻击他，这使得他左右动弹不得，老洋人也不由地焦虑起来。
面对铁桶一般的严密防守，老洋人再次以他的足智多谋打了一个漂亮仗。11月23日，老洋人股匪兵临河南南部浙川县的李官桥镇，该镇隔丹江（汉水支流）与湖北省相望，只要成功拿下这座城镇，那就有可能由此渡过丹江进入湖北。但李官桥镇中居民都知道老洋人素来凶残无比，于是与官军同仇敌忾，连夜修筑了一道寨墙，就凭借这道坚固的寨墙顽强抵抗土匪的进攻，老洋人数次发起进攻都未能攻克。这一天，当深夜来临后，老洋人命令众杆首挑选一些身体矫健的码子，又命令土匪们制造了几架云梯，然后给这些码子配备了手枪、大刀，这些人被称为灌手。午夜时分，老洋人一边命令再一次发起进攻，一边命令这数百名灌手利用地形悄悄爬到寨墙之下，然后突然架起云梯，灌手们不顾一切地登上云梯跳入寨墙内，与此同时，老洋人命令数千匪徒立即发起攻击，趁着寨墙内一时混乱之际一举攻下这座堡垒。
在爆炸的火光中，可以看见云梯上不断有人被击中而摔下来，但这数百灌手仍然前赴后继，继续向上爬，而当爬上寨墙之后，他们就与官兵短兵相接，用手枪、用大刀奋力撕开一个口子，终于在死伤过半后，寨门被打开，数千匪徒顿时如潮水般涌进李官桥——土匪们就是如此，他们由于武器匮乏，战斗力不强，但一旦被逼急了，他们就会爆发出惊人的能量，因为他们知道，此时不卖命，那就只有等死，故而，这些灌手都是些真正的亡命徒，他们此时根本不怕死，只有一个劲地向前冲。
当寨门被冲开之后，大队土匪冲进李官桥，立即展开了血腥报复，此时他们不再是简单地抢劫，而是见人就杀，见屋就烧。而且，由于官军此时距离李官桥已经不远，为了能尽快渡过丹江，土匪们竟然用城镇中的尸体填江，妄图用人体造出一道桥来。当尸体不够用的时候，土匪们就更加疯狂地杀人，一时间整个李官桥镇到处都是死尸，然后又被丢进丹江。直到第二天清晨，李官桥丹江口边已经是一片死尸，累积起来像个小山，而江水早已被染红，江面上也到处都漂浮着尸体，整个李官桥江段如同一个大屠宰场，宛如人间地狱。据后来的统计，仅浙川一县被烧房屋就达2.6万间，被杀人民达4326名。
但即便染红了丹江水，老洋人还是没能造出一道尸体桥来，老洋人股匪终未能渡过丹江。无奈，老洋人只好命令杆匪们继续沿边界西进，并勒逼着在李官桥附近掳来的百姓肩扛、背负土匪沿途抢来的物品。凡不胜负荷者，便一枪打死在路旁，沿途弃尸遍地，惨不忍睹。
11月下旬，匪徒终于在官军堵截的缝隙间进入湖北省境，直抵郧阳（今郧县）城下。土匪仍企图以甘言诱使守城官兵开门并提供子弹，但未成功；便架炮轰击，用云梯攀城。守城刘营长率500名士兵奋勇抵抗，土匪连攻三日未克，只得在四乡劫掠一番离去。与此同时，另一部分匪徒则攻进了郧西县城，布满四乡，盘踞多日，作为休整。他们除勒令乡民供应饮食之外，还四出搜寻年轻妇女，挟至营盘进行轮奸。遇有怀抱婴儿的少妇，杆匪就将婴儿夺过，弃置于地，然后挟妇而去；稍有反抗，即被戕杀。匪徒人数众多，动作野蛮，被奸妇女几乎无不致残。一名孕妇遭多人轮奸，当场血崩身亡。另一名12岁幼女被奸后，气息奄奄，次日丧生。据不完全统计，在这次郧西匪祸中，幼女妇人被奸致死者达二三百人之多。
老洋人进入郧西后，总算是可以稍稍喘口气了，而由于老洋人的声名，豫陕鄂各地小股杆匪也纷纷前来投伙，包括一些已经相当有名的土匪也慕名而来，投奔在老洋人糜下，因而老洋人的实力再一次暴涨：人数竟然已经超过3万，拥有骡马2500头，新式来复枪5000支，手枪300支，机枪、小炮各数架，其余则为旧式长枪、鸟枪、大刀等。但尽管人多势众，老问题还以无法解决，那就是徒手歹徒太多，枪支弹药严重不足。而且，眼前最大的困难是湖北方面为了重新将老洋人赶回河南，集结了大批官兵，此时正在向老洋人扑来。因此老洋人打算西南行、入四川的计划难以实现，却被湖北官军驱向西北，不得已又进入陕西境内。
同样，陕西方面也是严加防范。陕西将领吴新田、张治公、贾济川等部早已闻讯设防狙击，老洋人再次碰壁，陕西军队将老洋人股匪围困在商雒山中的龙驹寨（今丹凤县）。这时，西北地区军阀，如甘肃的张兆钾、宁夏的马鸿宾、青海的马麒等人，听说老洋人入陕，也当即命令军队协助剿匪，因为有前车之鉴——当年白朗起义时，即是循此道路而深入甘肃的，而老洋人也曾在白朗麾下当兵，他对这一带并不陌生；而且，由于听说老洋人已经进入陕西，陕西、甘肃、青海、宁夏等相邻几省的土匪们立即群情高涨，他们竟然都把老洋人看作是对抗官府的救星，因而一时间土匪活动十分猖獗。于是备省军阀纷纷要求加派驻军，架设军用电话，以防万一。
但实际上，老洋人已经被围困在商雒山，正一筹莫展。商雒山属于秦岭山脉的东段，山势险峻，隘口极多，自古易守难攻，当年李自成起义时，即以此山为根据地之一，屡仆屡起。老洋人在商雒山中与官军周旋了大半个月后，尽管可以利用险峻山势与官军捉迷藏，但长此以往也不是个办法，官军可以得到远远不断的补充，老洋人不行，他不抢劫就没有吃喝。于是，在周旋一段时间后，老洋人利用官军被甩在深山老林之中之际，立即猛然挥师东南行，返回湖北，沿郧西、郧阳、丹江（今均县）、老河口（今光化县），直逼樊城（今襄阳）。
当老洋人数万土匪兵临樊城后，樊城内立时大乱，相邻各县的外国传教士和侨民昼夜避居于汉水船舶上，一旦有事，即驾船远驶。而由于大部分官兵都被甩在后面，只有少部分湖北官军尾随着老洋人那浩浩荡荡的土匪队伍。由于官兵不多，因而只敢远远追踪、守望，不敢贸然进攻。老洋人于是顺利经过樊城，进入枣阳地界。
12月26日夜，老洋人率众攻陷枣阳县城，焚毁县署和数百间民房，打死、打伤商民、士兵200余人，绑架人票数百名。而其中再次出现了洋人被绑架的事。杆匪架走的就是美籍女传教士吉伦，另外还打伤了美国传教士贺福夫妇。而可怜的贺福夫妇是前两天刚刚在鸡公山举行了婚礼，这鸡公山偏偏还就是靳云鹗的师部所在地。当这对夫妇完婚后返回枣阳，本来是打算在此过圣诞节的，却不料老洋人也赶来凑热闹，结果两人都被开枪击倒。不久，贺福教士又不治而死，新婚之妻顿成未亡之人，蜜月之欢遽作丧偶之哀，殊可叹息。
杆匪在樊城洗劫一番后，随即北窜再次进入桐柏山区，在豫南各县分小股骚扰，以等待说票。此时吴佩孚已经恼羞成怒，连日追剿土匪，结果不但没有绞杀老洋人，反而越剿土匪势力越大，而且连续洗劫重大城镇，如今又再次进入难以攻克的桐柏山区，这无异于被老洋人耍乐了一番。因而，吴佩孚再次下令，命令湖北、河南两省务必彻底剿杀老洋人。
但吴佩孚还不得不首先与土匪谈判，因为吉伦女士的被绑架使得他再一次受到国际压力，北京的洋大人们立即发电责备吴佩孚。因而，吴佩孚一面调兵遣将，一面下令与土匪谈判。吴佩孚还悬赏1万元，救出吉伦女士。教会方面则派人与匪徒接洽说票。土匪开价10万元，另加步枪、手枪各500支，自然，这样高的条件吴佩孚无法答应，双方因此不欢而散。当然，老洋人的日子也好过不到哪去，这时已是1924年初，在鄂、豫、陕各军前堵后追豹严厉打击下，杆匪深感子弹不足，先后来合杆的小股土匪也纷纷离去。
正当老洋人焦虑不堪的时候，恰巧赵杰派人前来告知，他在豫东尚藏有大批枪械弹药，可供使用。老洋人大喜过望，当即派出一股匪徒前往豫东提械，自己则率大部人马，挟持吉伦女士北上，准备返回豫西老巢休整。临走之前，匪徒们还嚣张地到处张贴布告，声称回家过年，明春再来。
赵杰兄弟一是为了帮助老洋人，二也是为了报当年的一箭之仇——帮助老洋人也就等于帮助他自己，只要老洋人在，吴佩孚就不得安宁。但老洋人分兵前往豫东提取枪支弹药的计划却已经被靳云鹗获知，他立即调动第十四师层层设防，终于使老洋人这股土匪未能如愿，便从京汉线石桥站与临颖站之间折回豫西。当土匪再次经过京汉铁路的时候，铁路列车不得不再次被迫停止运行，当时南下的5次车停在许昌，北上的4次车停留偃城，各达几小时，待匪队通过后，方才开行，造成随后数日的火车误点——中国列车再次为土匪让路，这一时之间在国际上又成为一个中国笑话。