马步芳阻击、“围剿”红军的战争暂时结束了，但他的屠杀还在继续。马步芳部队早在河西作战期间，残杀被俘红军的血腥事件，就层出不穷。在甘州东教场、毛家沟残杀的红军即达100人。被俘红军在解抵西宁时，沿途受尽虐待。他们没有棉衣和鞋袜，身上财物，早被搜抢一空。一路吃不上，休息不得，还多用麻绳拴住双手，在辱骂和鞭打下走路。有的还被编成担架队，勒令抬运马步芳部队中的伤员。体力衰弱的，即被沿途杀死，弃尸于道旁，惨不忍睹；先后解押至西宁的，约有5000人。到后还分散拘留，其中年老或患病、受伤的1300余人，拘留于西宁南关各旅店，除了挑出三四百人组成劳动队，其余分编为几个大队，大队又分为几个小队，严加管制。1937年春，开始杀害。据说第一次杀害400人，第二、三次各有200余人。杀害办法是活埋。活埋之前，挥刀乱砍。结果西宁南滩大牙沟和苦水沟一带，尸骨堆积，血渍渗透土块；熏气四蒸，行人为之心悸。劫后余生者，则送往大通煤窑，强令下井劳动，死于煤井者，受伤、双目失明者，比比皆是。有3000多被俘红军，多是年在25岁以下的青年，编为新编第二军补充团，先后以马腾、孟全禄为团长，强制承担开凿石方、修路、开荒、修渠、盖房等繁重体力劳动。每天均劳动12小时左右，三顿饭既不固定，终年又衣不蔽体，在严寒酷暑饥饿疾病的交互侵逼下，不少人被折磨而死。1938年4月，马步芳将这个“补充团”分批解往兰州，交中央军第九十七师孔令恂部接收。将其中1500名顶替青海省应征的壮丁，转手向青海各族人民攫取壮丁折价款。每名交银元800元，共得银元120万元之巨。
马步芳如此虐待红军被俘人员，除了出于他的反动阶级本质，还有“杀鸡给猴子看”的作用。他在对其部队公开讲话中说：“大家在任何战斗中，如不为团体拼命到底，一旦被人所俘，将来难免不受今天‘补充团’的这样待遇。”1936年12月中旬，解至西宁的被俘女红军约400人，马步芳将大部分赏给部属作奴仆、妻妾或送至工厂作苦工，还有30多人送往第一百师的“新剧团”。1937年4月1日，被俘的红九军军长孙玉清由肃州解至西宁，当日马步芳亲自审问，孙军长大义凛然，横眉冷对，马步芳一无所获；想以软化手段促孙军长转变，更是徒劳。5月，根据蒋介石电示，将孙军长杀害。时孙军长年仅28岁。
马步芳内部也有一场戏。当马元海率部队返回青海时，马步芳大事张扬，专门成立慰劳委员会，组织欢迎、欢宴。勒令西宁群众从西门到小桥列队迎接。在省政府、新二军军部设宴欢迎其高级将领。又于4月15日召开3天庆祝大会。但马步芳、马步青之间又争功闹矛盾，马步青先指使武威电报局长，以河西各县邮电代表名义，向蒋介石发出为马步青请奖的电文。马步芳闻知，大为不满，即把原先二人商定联合请奖的议案撕毁，自己单独呈报。6月，蒋介石据报颁发叙功的奖章，受到“国花奖章”的有：马彪、马元海、马朴、韩起功、马步康、陈显荣、马骥、马全义、马步銮、刘呈德、马忠义、马丕烈、马继援（时尚在学校读书）。在奖励的同时，蒋介石对日渐坐大的马步芳也颇不放心。由于红军提出“马家军”这个名称，揭示了马步芳封建土皇帝的本质，给了社会上一些启示，有些人在《新青海》上写文章，指责马步芳“虚张声势，迹近夸大”，揭露其扩张势力的行为，给马步芳不小的压力。马步芳乃于1936年12月电报蒋介石，以“恐有贻误”为由，请求辞卸青海省政府代理主席和新编第二军军长等职务。这当然是故作姿态，蒋介石来电慰留云：“该员夙娴豹略，近益鹰扬，殊堪嘉尚……除西北总部，已明令裁撤，该纵队自应撤销外，所请辞却代主席、新二军长及青海保安处长等职，着毋庸议。”马步芳吃了定心丸，又立即平复社会舆论，向《青海日报》记者发表谈话说：“本主席奉命办理民团，彼时一般不明真相者，纷纷议论，不曰扩充势力，即曰增加军队，妄作言论，清谈误国。”但蒋介石毕竟周到，还要安抚一下。1937年4月27日，派军委会西安行营中将参议肖致平来到青海。马绍武在欢迎肖的大会上，根据马步芳指示致词说：马军长的做法“纯为求统一及安内工作，并非为地方或个人而战”。《青海日报》同时发表标题为《欢迎肖致平来青宣抚》的短评。肖见报后说：“这次来青是奉命慰问，并非宣抚，请予更正。”马步芳对报社总编说：“人们说我扩张势力，就是来宣抚，既是说慰问，就算慰问。”第二天，报纸作了更正，一场心理战于焉结束。
十一、出兵抗战
1937年4月，蒋介石命令马步芳抽出一个骑兵师，参加抗战。马步芳乘机扩充力量，在保存原有正规部队番号的原则下，又拼凑一些部队，加以新的番号。具体办法是，一面抽调青海南部边区警备司令部警备第一旅、第二旅各一部分，以及第一百师淘汰的老弱士兵；一面商同马步青，从骑五军抽调第二旅马禄部和第二团马秉忠部。并征调大通、互助、湟源3个县的民团，组成为一个约有8000人的骑兵师。以马彪为师长，马元祥、马禄、马秉忠为第一、二、三旅旅长。这个办法，实际是削弱了马步青的直系部队。由于给这个骑兵师配备的武器残缺不全，要求军事委员会予以补充，得到蒋介石的批准。马步芳还要求把这个骑兵师编为正规军，蒋介石只给予骑兵暂编第一师的番号。师参谋长一职，蒋原想直接派人，但马步芳一再争执。蒋为促其从速出师，遂允由马步芳派赵仁担任，仅调第一百师政治部秘书、复兴系的龚浔为该师政治部主任兼副师长。但如此安排之后，马步芳对行将出笼的鸟仍颇放心不下。9月1日，在西宁大教场举行检阅，并召开欢送会，马步芳对其高级部属说：“虽然派出了这一师人马，我们的主力并未变动。”此后，马步芳对马彪等还一再叮咛，要相机应变，勿忘老根。马彪最后慨然表示：“我们今天离开青海了，但是团体还是一个，锤打不烂、火烧不透。一条心，一口气，骨肉相连。中央是中央，我们是我们，不管将来怎样变化，我们对军长的命令是永远服从，不会有一点改变。”如此信誓旦旦之后，才起程离开青海。
1937年10月17日，骑兵暂编第一师到达陕西乾州，随后移防咸阳。1938年2月10日，移驻临潼一带，负责维持地方治安。第八战区抽调第二旅马禄部脱离暂编骑一师建制，移防北同官（今铜川）一带，之后把这一旅人扩编为暂编骑兵第二师，同时将第一旅马元祥部、第三旅马秉忠部划归西北行营指挥，后又归第一战区指挥，调到河南许昌一带驻防，并补充一个旅为第三旅，以孟全禄为旅长。不久，司令长官卫立煌命令这3个旅防守贾鲁河流域的尉氏和西华间的黄泛区。
1．河防初战
1938年，第二旅一个排长马元林（原哥老会分子），与贾鲁河东的伪军勾结，枪杀一营营长马某，带几十名士兵过河投敌。旋即给敌作向导，引日军1个中队、伪军1000余人渡河侵占我七八个村庄，并扬言日本皇军将西取洛阳。马彪电告洛阳求援，第一战区长官部派庞炳勋的两个师前来支援，不料他们进至离前线200里处就停止不前。师部即决定趁严冬风雪交加、对敌不利的恶劣气候，出动两个旅向敌伪进攻。经过激烈战斗，打死打伤伪军数百人，夺回敌占村庄。在追击中，数百伪军，一半被歼，一半跳河溺毙。战争结束，各县群众纷纷前来慰劳，并给师长马彪送“万民伞”一把。
2．淮阳之战
1939年春末，马彪师调驻周口至界首一带黄泛区，主力驻项城，以防御淮阳的日军。同年八九月间，派各旅轮流东渡贾鲁河，以“小骑群”的游击形式，袭击淮阳日军。最后，马秉忠旅全部人马渡河进驻宝塔孔庄一带，进而围困了淮阳城，并占领西关。日军从开封调来100辆大卡车的援兵，与淮阳日军配合，以步、炮、坦克兵种犯我河防阵地。双方展开白刃战，全旅将士奋力搏击，马秉忠旅长在激战中中弹阵亡，同时牺牲的有李营长、赵清心连长及士卒多人，后由该旅四团韩团长指挥，继续苦战。马彪下达血战到底的命令，并派一旅旅长马元祥率部渡河支援，马元祥在激战中也负了伤。后我军以轻骑迂回敌后，日军腹背受敌而溃退。是役总计消灭敌官兵1000多人，俘日军数十人。我军伤亡2000多人。事后，在水寨为阵亡将士召开了军民追悼大会，在墓前立了纪念碑。在西宁也开了追悼会。烈士为国捐躯的精神，鼓舞了决心杀敌的士气。不久又与日军交战，打死敌骑兵500余人，缴获战马数十匹，从中选20匹送到青海报捷。敌人恼羞成怒，调来重兵，用炮将我宝塔一带阵地摧毁，并在坦克掩护下向我猛扑，我军阻击，双方伤亡很多。我方有100余名战士被迫背水迎战，弹尽援绝，投水自溺，壮烈殉国。
3．龙冈之战
1940年7月，全师调驻皖豫边的临泉、沈丘两县，并整编为骑兵第八师，为便于指挥，取消旅、营建制，改为师、团、大连编制，全师共编3个团，一、二团为步兵，马彪仍任师长。仍属第一战区战斗序列，同时接受第五战区李仙洲集团军指挥。8月间，调驻皖北的涡阳、蒙城、怀远等县，牵制津浦铁路蚌埠一线的日伪军。时蚌埠一线有日军第六十师团和伪军两个师与我对峙。我军经常出击奇袭，破坏日军控制之铁路、公路、桥梁，断其通道，给日军造成很大困难，日伪称该师为“马回子军”、“马胡子军”。9月间，该师工兵连和一个大连，进驻怀远县境涡河北岸的龙冈镇，修筑工事，埋设地雷，构成对日伪军的严重威胁，敌人便以大炮、坦克、装甲车配合步兵，围攻龙冈镇。我军发挥地雷威力，将其1辆坦克炸毁。后敌人在大炮掩护下，派步兵持探雷器扫雷，我军在工事中以机枪扫射，打死日军数百人，敌军中一面太阳旗突然倒下，马彪即令两个骑兵大连渡过涡河，对敌后路进行迂回，敌军急忙溃退，遗尸三四百具，许多尸体来不及运走，有的仅割一只胳膊带回。因敌在撤退中施放毒气，我军未能穷追。此役使敌军再不敢轻举妄动，“马回子军”的声誉遍及附近各地。1941年夏，日军以优势兵力，由寿县、凤台两路出发，包围我军。马彪令全师转移到阜阳、颍上沙河以北地区，敌人扑空之后，不得不退回原据点。
4．马彪离职
1941年以后，马彪因兼任何柱国骑兵第二军副军长，并有升任六十四军军长之说。马步芳得悉，恐骑八师归属于中央军，于1942年夏飞往重庆，先向何应钦活动，然后向蒋介石报告“马彪因年老申请退休，拟由马步康接替”，蒋准其所请。马返青后，即派马步康（系马步芳堂兄，时为一百师二九八旅旅长）带一些人马到阜阳马店子与马彪办理交接手续。马彪为此含愤不回青海，住于西安。后接蒋电召去重庆谒蒋，面诉：并未要求退休，在此抗战紧急关头，宁愿当老黄忠，战死沙场，死而后已。蒋予以嘉许，犒赏银币10万元。并电示西安之胡宗南、苏鲁皖边区总司令汤恩伯予以妥善安置，汤恩伯便在沈丘筹备成立骑兵纵队，拟由马彪领导，并派人在甘肃夏河等地购马数百匹，先成立一个团。但在继续购马中受马步芳忌恨刁难，难以进行。马彪见计划行将落空，忿忿返回西安，以中将参议名义闲居。一个立功抗日战场的将军竟如此郁郁而终！
5．中原会战前后
1942年以后，苏鲁豫皖边区抗日前线，只有零星的拉锯战。1943年、1944年之交，日军发动中原会战，攻占洛阳，为打通平汉线而部署攻占漯河，先调其板垣师团围攻阜阳。为保卫阜阳，骑八师奉命赴颍上一带，作侧翼掩护。骑八师在颍上与友军取得联系，以青纱帐作掩蔽，多次迂回敌后，对敌进行袭击。后来，骑八师司令部被敌侦知，出动飞机轰炸，副师长卢广伟和10名士兵被炸死。此后再无大的战斗。
但骑八师也奉命做了一些亲痛仇快的事。1938年10月中旬，当新四军第四支队向淮阳方面的日军进攻时，马彪令马元祥旅的一个团偷袭四支队，使四支队一个中队牺牲战士50多人。此后，又一次袭击四支队，却被四支队反包围，160余人被俘。但四支队很快将愿意归来的60人放回。1940年9月，骑八师又配合李仙洲部袭击新四军，一次俘获新四军干部学校学员200多人、步枪200多支、机枪10挺。在抗日前线打内战，削弱抗日力量，殊属非是。
马彪还干了一些不好的事：在界首包庇走私，牟取暴利。据第一战区参谋处查获其赃款，即达法币700万元之多。在此以前，卫立煌派人从上海偷运私货的船只，被骑八师在界首渡口留难，没收了几只船，并拒绝卫所派参谋人员的检查，引起卫的不满。因此，卫严令查办马彪界首走私案。马彪把罪责推卸给第三旅正副旅长孟全禄、马夺魁。卫即将二人逮捕。马彪转请马步芳说项，卫将孟撤职，将马夺魁枪决。
1945年8月，日寇投降。骑八军师奉命开往徐州“接收”，驻于徐州九里山一带。时蒋之嫡系部队在城内大发接收横财，骑八师因系杂牌军，只准驻扎城郊，不准进城执行接收任务。其后，经马步芳活动，该师于1946年元月由陇海路西返，在陕西富平一带，与暂编骑二师马禄部合并，整编为一个师，仍称骑八师，马步康仍任师长。于同年3月调驻甘肃永登。至此，这一师人马，从1937年9月19日离开青海，历10年时间，又归入马步芳部队序列。尽管道路曲折，在上层指挥下，干了一些错事，但广大官兵在抗日战场上，转战万里，守土卫国，英勇杀敌，流血牺牲，表现了高度的爱国精神，其卓越功劳，应该在抗战光辉史上占有一页。
但骑兵第八师在抗日战场上的流血牺牲，到头来翻成为马步芳的功勋和资本。1945年9月，蒋介石在重庆扩大的总理纪念周上，指名表扬西北几名军事人物，称阎锡山、马步芳、杨德亮、胡宗南等人是“抗战有功将领”，马步芳身价倍增！