终于，共产党放弃了争取谢文东，1946年秋，民主联军合江省军区决定把谢文东股匪消灭在牡丹江西。部队封锁了南起夹皮沟，北至黑瞎子窖沟，东起牡丹江，西至老爷岭的一块长方形地域，内部分成若干块，再派兵分区搜山。三五九旅和合江军区对谢文东开始进行大规模围剿，刚开始时，由于人地两生，部队开始遇到许多困难，有时见到土匪，待冲上去时，土匪马上分散藏匿在附近，战士们失去目标。通过一段时间的摸索，部队终于找到了一个釜底抽薪的办法——那就是他们根据脚印、马粪、飞鸟叫唤和夜间的火光等痕迹现象，找到土匪的营地，把土匪击溃后，随即焚毁匪徒的秘密巢穴、粮食和盐。这一来谢文东匪众没有了给养，战斗力很快下降，长期在深山躲避，天气又极寒冷，匪众吃和住都非常艰苦，结果屡战屡败。
这段日子可以说是谢文东自从为匪以来最悲惨的一段，当时由于三五九旅毫不松懈地围剿，谢文东股匪的日子难过极了，缺粮、缺盐，缺子弹，他们吃马肉，却又不敢生火，于是就生吃马肉，而冰天雪地的，马肉很快就冻得咬不动，于是许多匪徒开始生病、腹泻，浑身无力。几个月下来谢文东匪众一个个胡须、头发老长，营养不良又导致浮肿，真是三分像人、七分像鬼。他们东窜西窜，就像笼中之兽，到处挨打碰壁，于是人心开始涣散。这时，为了尽快解决谢文东匪众，三五九旅又加强了政治宣传，每个村庄中都布设了宣传员，民兵，因而使得谢文东劫掠也难以成功。
当时东北国民党只控制着锦州、沈阳、长春等几个大城市，而其余广大地区早已成为共产党的地盘。谢文东此时已经被打得无立锥之地，希望能撤向牡丹江，再逃往长春。但路经连珠河发现共产党的大部队，只好又返回八道沟，10月又流窜到夹皮沟，而此时谢文东部已经所剩无几。此时，三五九旅还派出已经投降的土匪进山劝降。一天夜里，两个装扮成猎人的土匪摸到了谢文东匪众躲藏的地方，然后向匪众劝说，结果这一夜大批土匪跟随着两个猎人前来投降，当他们来到三五九旅驻地后，见到部队士兵第一句话就是：“给顿饭吃，吃饱了，要杀就杀吧！”而也果真有几个土匪长期饥饿，现在一下吃的太多，结果撑死。一夜过去，谢文东天亮时发现，他的身边已经只剩下5个人。他无奈的笑了笑，带着这5个人又逃到另一座山上，然后躺在雪地上，大声说道：“胜败由天，生死由命，你们愿意走的也走吧，我自己留在这儿。”
谢文东的身边一片沉默，5个人互相看了看，良久，谢文东的马弁汤二虎说道：“军长，你不打算投降？那我想投降了。”谢文东说：“好，你去吧，到了那儿，给我弄匹马来，拉我下山，我也投降。”第二天，汤二虎果然带着几个三五九旅的士兵和一匹马上山来找谢文东，但谢文东已经不见了踪影。此时，谢文东身边只有他唯一的一个儿子和三个人了。
谢文东此时打算去牡丹江，然后再寻他路。他化妆成老百姓，来到了一个名叫四方台的山头。而三五九旅的士兵此时也正在四处搜寻谢文东，士兵们很快在山凹里一个小山神庙前发现一个跪着的人，旁边还站着四个人。指战员们悄悄靠过去，副连长李玉清见那人是个秃顶大胖子，正是首长介绍的谢文东模样，便持枪冲上去，大喝一声：“谢文东，我来捉你了！”谢文东被俘后，被关在部队的骑兵团团部。半夜时分，他突然说要大便，企图乘黑夜滚下沟坎，钻入山林逃跑，但看守的士兵根本没理他这一茬，告诉他他就在屋内大便吧，谢文东无奈，彻底无望了。1946年12月3日，在勃利县政府门前，召开公审大会，会后在碾子河西岸谢被处决，时年60岁。
有传闻说，中共高层曾拍来电报，要求三五九旅暂缓枪毙谢文东，因为他毕竟曾经是东北抗日联军高级将领，但很可惜，那电报来的迟了一些。