老洋人耀武扬威地一路劫掠终于让吴佩孚等大军阀感到不安，尤其是老洋人的土匪在短短的时间里就聚集了七八千人，这让吴佩孚深感忧虑，他怕老洋人最终形成气候，或者为他人所利用，扰乱他的后方，因而，吴佩孚与冯玉祥商议，决定联合剿杀这股日渐做大的土匪。吴佩孚和冯玉祥一起制定了一个三路合剿的计划，企图在豫西将老洋人股匪一举歼灭。然而，让吴佩孚和冯玉祥感到意外的是，老洋人对官兵剿匪的战略战术颇为熟悉，竟然顺利从他们的三路合围中撕开一个口子，突出重围，于10月23日向东逃去。吴佩孚和冯玉祥不由地有些恼羞成怒，下令官军紧追不放，同时命令老洋人码子们所经之处的驻防部队围追堵截。然而，老洋人再一次让吴佩孚刮目相看，老洋人的队伍尽管是些乌合之众，但却表现出高超的军事素质，老洋人竟然在10天之内，横贯河南省，从豫西一直打到皖西。沿途经过鲁山、方城、叶县、舞阳、郾城各县境，而且在京汉线上打垮了靳云鹗的陆军第十四师所布设的拦阻，最终进入豫东。在突破靳云鹗的防线后，豫东各县驻军顿时一片慌乱，他们根本未曾料到匪队来势如此迅速，措手不及，以至上蔡、项城、沈丘、新蔡诸县城，相继被老洋人攻占。
当来到新蔡县后，下一个目标就是阜阳城。阜阳是皖西重镇，历来驻有重兵，老洋人通过眼线了解到新蔡县防守较为严密，如果硬攻恐怕会损失惨重，而且连日作战子弹消耗过大，有勇有谋的老洋人对着阜阳城琢磨了良久，然后找来几十名精明强悍的蹚将，每人给了一些银元，让他们先行去置办些行头、货物。11月2日夜，当老洋人来到皖西重镇阜阳县城下后，他并不急于攻城。
阜阳现在是皖系军阀、原安徽省督军兼省长倪嗣冲的老家。倪嗣冲从1913年起就在安徽担任最高地方长官，被封为安武上将军，所部称为安武军。至1920年直皖战争中皖系失败，他才避居天津。这些年中，他搜刮了大量的民脂民膏，在阜阳开了倪萃恒、倪瑞恒两家钱庄。他的女婿、现任皖南镇守使兼第三混成旅旅长的王普也在这里开了一家汇昌和钱庄。县城里驻有安武军一个团，团长倪金镛是倪嗣冲本族子弟；另有一个地方保安团，团长倪道煦则是倪嗣冲的亲侄子。
11月2日这天中午，当老洋人的大批人马兵临城下的时候，倪道煦正在城内请“花会”，阜阳城内乡绅贵贾云集于此，相互致敬；名媛淑女和青楼歌女也汇聚一堂，争奇斗艳。整整一天，倪道煦的宅第中到处都是酒肉飘香，歌舞升平，没有人会想到即将大难临头。直到晚上，仍然有两台戏同时开场，一个是德胜楼唱的《九江口》，另一个是得月楼唱的《白马坡》。
这边好戏刚刚开场，城外的戏开锣了。当德胜楼的戏刚刚唱到一半，一个士兵匆匆忙忙跑进来，这是城外安武军一个营长派的送信人，送信兵告诉大家，老洋人这杆土匪已经就在城外，然而，在场的官员、商贾却无一人感到惊恐，因为他们都知道阜阳城乃是倪嗣冲的老家，城里城外有两个团的士兵，几个土匪是掀不起什么风浪的。所以，两台戏园仍然人满为患，唱戏的继续唱，听戏的继续听。
其实，他们并不知道，阜阳城内安武军的倪金镛团长到乡间去购买田地，至今未回；而保安团的倪道煦团长花会之后，带了阜阳城两个最漂亮的妓女销魂去了，此时早已累得醉卧纱床。而城墙上防守的士兵也只是平日那些站岗放哨的人，并没有增加多少防守之人。
此时，阜阳城南门处城上城下已经开始对话。老洋人的一个码子对着城头喊道：“城上的弟兄听清楚了，我们是老洋人的码子，今夜要在阜阳城盘下，请开开城门！”
守城士兵回道：“城下的人也挺好了，我们奉命守门，没有上方的命令不敢开门，你们还是走吧。”
“城上的兄弟，大家都是扛枪卖命的，你们要多少开门钱，说出来吧！”
城上的士兵仍然拒不开门，此时城上也发现匪徒众多，于是已经将机枪架好。渐渐地，土匪的叫门声夹杂着脏话，守城的兵丁自然也不甘其辱，开口回骂，一来二去，城上突然扫出了一梭子子弹，早已准备好的土匪立即开枪回敬，顿时，城上城下枪声大作。而就在两边刚刚开始对射，南城门附近却突然一片大乱，随后火光四起，爆炸声接二连三地响起，城门附近的士兵相继倒下，随后，南城门大开，数千匪徒蜂拥而上，一举冲入城中。原来，这城门口放火爆炸的就是老洋人早先安排好的，他早已派了几十个精干的码子扮成小商贩埋伏在南城门下，直到两边枪声响起，这些人就拔枪对着守城士兵的背后射击，然后打开了城门。
老洋人的数千土匪进入城中后就开始大肆劫掠，沿着街道搜索每一家商铺，见到钱财就抢，稍有抵抗就开枪射杀。而老洋人根据事先布置好的眼线带人直奔倪萃恒、倪瑞恒两家钱庄，当他们来到这两家钱庄后，经理已经逃走，匪徒们就到处敲打，撬开仓库，砸开库门，把里面的黄金白银一掠而空。
而在一家茶庄，一股匪徒一边勒令老板拿出全部钱财，一边将老板的两个姨太太拖入后房，扒光了衣服捆绑起来，然后十余人先后轮奸，老板家的一个老佣人忍不住稍加劝慰，但话没说到一半，就被一个匪徒一枪打死。
匪徒由南城门进城，然后沿着街道向城中劫掠，在刚一开始，城北还一片安详，当时保安团士兵正准备集合早操，忽然看见有人扶老携幼、抱着金银细软匆匆忙忙地向城北逃跑，这才得知数千土匪已经冲破城防攻入城内。而这些保安团士兵没有了团长的指挥竟然一窝蜂地跑出了军营，然后各自逃出城外，他们竟然跑的比城中的百姓还快。
而那位仍然醉卧花丛的倪道煦团长连衣裳也未穿好，就被两名勤务兵架起来就逃。同样，安武军驻军也早逃之夭夭。直到4日，曾任安武军统领、现任安徽督军马联甲，闻报老上司家乡遭匪，才急令皖北镇守使殷恭先率领25个营的官兵大举进剿。
自然，老洋人也早已得知大批官军正在向阜阳开进，知道这批官军多达25个营，人多势众，情知不敌，便下令连夜纵火焚烧阜阳城。一时间，城内火光冲天，在商民一片哭喊声中，数千名杆匪背着、抬着劫掠的财物离开阜阳，于5日拂晓返回河南境内。随后数日内，土匪士气大振，先克息县，架走基督教牧师、美国人巴牧林父子；再陷正阳县，架走基督教伦敦会牧师、英国人贺尔门；继而掘断京汉铁路明港至信阳的一段铁轨；然后沿京汉线北上，相继攻下遂平、郾城等县。每当遇到官兵围剿时，老洋人就下令将抓来的真洋人推向第一线，迫使官兵们不敢开枪，眼睁睁地望着匪徒们呼啸而去。
老洋人在阜阳的劫掠可谓收获不小，不仅搜掠到大批银元、烟土，而且还有一个更大的收获，那就是找到了倪嗣冲的武器仓库，由此得到了3000多支步枪、13挺机枪、200多万发子弹，甚至还有几小钢炮。这对于被连日追击的老洋人来说，比金钱更宝贵，正好补充了多日奋战造成的损失。在撤离阜阳前，老洋人顺手牵羊还架走了县知事陈祖荫，还有王普的五弟，阜阳天主教堂神父、意大利人马福波，汇昌和钱庄的职员常兴周等人，还有数百名男女肉票，其中有60多名花票也被土匪带往豫西。此后，这些人票按照家境的不同被老洋人分别定价，高的数万银元，中的数千银元，最低的也需500银元。无奈，阜阳城内有钱人家只好派人从阜阳到豫西去赎，而一些家境较为窘困的人则最终根本无人救赎，任凭其被土匪抽打，强奸，以至于有不少人最后死在土匪手里，而一些女人在被频繁强奸后又得不到赎金的就被卖到了青楼。