徐介藩在苏联远东地区一干就是十年。他经常出神地眺望南面的黑龙江，江对面就是他的祖国，近在咫尺，却不能回去。身在异国的徐介藩抑郁惆怅，他思念他的家人，思念他的战友：看到祖国美丽富饶的东北三省沦陷于日寇的铁蹄之下，徐介藩恨不得马上回国，投身到轰轰烈烈的抗日救亡运动中去。
人在异乡，身不由己，他不能暴露自己内心思念祖国的情感。他的主要工作是针对日本、伪满洲国和中国国民党的谍报与反特，具体任务是侦察、逮捕和预审，机密紧张又出生入死的特殊工作，使他被迫断绝了与安徽老家亲人的一切书信联系。
在孤单寂寞的异域他乡，爱神悄悄向过了而立之年的徐介藩走来。在布拉戈维中斯克工作期间，徐介藩以其忠诚干练、勤恳高效、任劳任怨而受到了苏联同事和上级领导的一致好评，单位里一位漂亮的苏联姑娘马尔多夫斯卡娅深深爱上了一表人才的他。1933年，在领导和同事们的撮合下，徐介藩与马尔多夫斯卡娅喜结连理。
1934年9月，徐介藩被调到符拉迪沃斯托克（即海参崴）公安部门担任科长。1936年正式加入了苏联国籍。在符拉迪沃斯托克工作期间，徐介藩多次受到苏联上级领导部门的奖励，曾经荣获过银表、手枪等奖品。9月，他被调到乌苏里斯克（即双城子）公安部门担任科长。
斯大林时代的苏联，对黑龙江沿岸的中国侨民采取赶尽杀绝的种族灭绝政策。
1937年到1938年，由着名的嗜血之徒叶诺夫执行，对华侨大围捕。徐介藩向上级反映了不同意见，受到莫斯科的严厉训斥。他晚年回忆那十年的经历，为自己曾被迫奉命执行驱赶中国侨民去新疆的事而自责。
幸运的是，由于徐介藩是个远离苏联政治中心的远东基层小干部，寄人篱下的处境使他养成了处处小心、谨言慎行的习惯，他没有被卷入苏联血腥的“大清洗运动”，但他心里明白，苏联“格别乌”从来没有真正信任过他这个黄皮肤的中国人。中国抗日战争全面爆发的消息传到苏联以后，徐介藩备受鼓舞，得知常乾坤等老同学纷纷回国参加抗战的消息，徐介藩再也坐不住了！他利用休假多次回莫斯科，每一次他都去找中共驻共产国际代表团，要求组织把自己调回国内，但都没有结果。1938年底，远东的中国侨民几乎全部被野蛮地驱逐到中国的新疆地区，徐介藩失去了工作的对象，他被上级解职待分配。早就想离开远东的徐介藩有了合法的脱身机会，他向上级递交了辞职书，获准偕妻子回莫斯科。
一回到莫斯科，他又风风火火地去找中共代表团负责人任弼时，要求回国。任弼时热情地接待这位资深老同志，告诉他苏联政府有个不成文的规定，凡参与“格别乌”工作而涉密甚深的外国共产党员，在若干年内，不准离开苏联境内。这一个铁的规定如冰水浇头，让徐介藩愣怔半天。任弼时安慰一番后说，定会设法相助。不久，中共代表团与共产国际干部部商定，给徐介藩找了一个临时工作：到苏联外文出版社中国部当翻译兼校对，徐介藩只能从命。
徐介藩的人品学问和工作能力早就被共产国际的领导看中，哪能让他长期在出版社当个小职员？何况共产国际正缺少能人。1939年初，徐介藩被调入共产国际干部部中国干部处担任专员。当时负责中国干部处的是一个“中国通”苏联人，叫马尔德文诺夫，上校军衔。此人刚愎自用，特别依赖他的一个贴身心腹——中国人曾秀夫，化名小张。小张是个投机分子，曾多次潜入中国进行特务活动。徐介藩很快发现，中国干部处在这两人的控制下，人际关系极不正常，所以他很难开展工作，不免情绪低落，得过且过。
是年年中，由共产国际苏共代表团团长曼努伊尔斯基牵头，组织了一个中国问题研究小组，主要讨论中国当时的抗战路线问题。中国方面有任弼时、师哲、傅清华、徐介藩和小张；苏联方面有曼努伊尔斯基、马尔德文诺夫和几个“中国通”。在马尔德文诺夫的授意下，小张做了长篇发言，他指责中共，认为国共之间的摩擦，责任都在中共方面，主张取消中共领导的敌后抗日根据地，一切服从统一战线。徐介藩坚决反对小张的错误意见，指出“一切经过统一战线”、“一切服从统一战线”的观点，是右倾投降主义路线的产物。双方争论得很激烈，会后，马尔德文诺夫对徐介藩大加训斥，从此一直给徐介藩小鞋穿。好在共产国际领袖季米特洛夫非常赏识徐介藩，一直保护徐介藩免遭迫害。
1943年5月15日，共产国际执委主席团做出了解散共产国际的决定，考虑到徐介藩的资历，苏联方面把他调入苏联共产党（联共）中央联络部国际部某秘密机关（对外称205研究院），日常工作是翻译中国主要报刊，提供中国各方面的动态报告，供苏共中央最高层参考。因为能天天看到国内的报纸，徐介藩心情好多了。他先后担任中国问题参谋和主任参谋。在此战争期间，徐介藩参加了苏联莫斯科国防工程建设，多次参加义务劳动，先后被授予“保卫莫斯科奖章”和“卫国战争纪念章”。
四、归国
世界反法西斯战争的烽火硝烟终于熄灭了。战后，苏联人民齐心协力医治战争创伤，致力于恢复和发展国民经济，而徐介藩自己的祖国再次爆发了内战，徐介藩下定决心回国，投身到轰轰烈烈的人民解放战争中去。
1948年3月，徐介藩回国的申请经苏联共产党（联共）中央审核，获得批准，他偕同夫人马尔多夫斯卡娅和三个女儿回到阔别二十余年的祖国。到达哈尔滨后，李立三请他全家到家里吃饭，询问他的情况和要求，并建议他发挥俄文方面的特长，到中共中央东北局编译局工作，担任《毛泽东选集》俄文版总编辑。徐介藩当场婉言谢绝，他认为兹事体大，自己刚刚回国，实在承当不起这个事关中央最高领导人的重担。
这件事报到罗荣桓那里，最后由罗政委拍板，徐介藩才勉强承担《毛泽东选集》俄文版总编辑，同时他转为中共党员，证明人为李立三。由于徐介藩在黄埔军校时期的入党介绍人和证明人许继慎早已牺牲，考虑到徐介藩的实际情况，组织上决定他的党龄从1926年2月在广东航空学校时期算起。
1948年冬，中共中央指示停止《毛泽东选集》俄文版编辑工作。不久东北全境解放，徐介藩随机关南下沈阳，1949年2月调任中长铁路驻沈阳办事处，当个挂名的副处长，并且兼任中共东北局直属党委委员、副书记，不久又担任书记。
在这一段时间里，夫人马尔多夫斯卡娅患肾癌，徐介藩从哈尔滨送妻子到旅顺苏联海军医院动手术，之后再把妻子接回沈阳。
1949年6月，中共中央决定由刘少奇率领包括高岗、王稼祥在内的中共中央代表团赴苏联进行友好访问，这是新中国成立前夕我党的一次重要出访，有着重大的历史意义。考虑到徐介藩长期在苏联工作和生活，精通俄语和苏联的社会情况，中央选调他参加代表团，他的主要任务是笔译以及日常总务工作，同行的还有师哲、戈宝权、邓力群等人。在中苏两党的会谈和相关文件翻译中，刘少奇对徐介藩的精湛业务能力和一丝不苟的负责精神颇为赞赏。访问结束后，徐介藩奉命带几位机要员，和戈宝权一起留在莫斯科，一方面接收国民党政府驻苏联大使馆，另一方面筹备新中国的大使馆。
1949年10月2日，苏联宣布承认中华人民共和国，中苏两国建立大使级外交关系，徐介藩被任命为中华人民共和国驻苏联大使馆一级参赞。此时，徐介藩尚拥有中苏两国国籍，他认为自己本来就是中国人，现在更是中华人民共和国的外交官，所以不能拥有双重国籍，就办理了退出苏联国籍的法律手续。
1949年底至1950年初，毛泽东主席第一次赴苏联访问，并与苏联最高领导人斯大林会谈。在《中苏友好同盟互助条约》签订之前，毛泽东和斯大林之间产生了误会，毛泽东大为恼火，在双方起草的文本出现分歧时，准确无误的俄文笔译就尤为重要。
作为毛泽东身边少数几个精通俄文的官员，徐介藩和伍修权、师哲、戈宝权四人全程参与了讨论，以最快的速度将毛泽东、周恩来、李富春等中央领导同志的讨论文本翻译成俄文，最后由徐介藩打印出来，他为《中苏友好同盟互助条约》的顺利签署做出了重要贡献。
1950年2月，与徐介藩患难与共的苏联妻子马尔多夫斯卡娅因患癌症，医治无效，在莫斯科逝世，徐介藩万分悲痛。为了国家的工作，徐介藩忍痛把自己的三个女儿托付给马尔多夫斯卡娅的母亲抚养。6月，根据中苏双方达成的协议，我国在苏联赤塔设立领事馆，党中央派徐介藩前往赤塔筹建中国总领事馆，出任总领事兼党支部书记。但是徐介藩在赤塔工作得并不很顺利。因为当时苏联方面依旧按照传统思维，把中国外交人员当做外国的情报人员，处处防备，特别是当他们得知徐介藩曾长期在苏联学习和工作，克格勃的人更是对他“特别照顾”，对他的活动处处设限，所以徐介藩在赤塔工作一段时间后，就不愿意返任了。
朝鲜战争爆发以后，毛岸英随彭德怀司令员入朝担任俄语翻译，协调与苏联顾问的工作。一个月后，毛岸英不幸牺牲，继任的翻译水平有限，导致双方经常发生误会和争执，彭德怀多次向军委建议给他派一位得力的俄语翻译。周恩来一下就想到徐介藩，1951年4月，中央把徐介藩从外交系统调到朝鲜前线，出任中国人民志愿军司令部办公室主任兼翻译，积极协助彭德怀处理日常军务。1951年7月1日，徐介藩随李克农、乔冠华等参加了开城谈判，还获得过朝鲜方面颁发的二级自由独立勋章。是年冬，徐介藩回北京，适逢苏联派来以沙林将军为团长的大型军事代表团。军委办公厅通知徐介藩陪同这个代表团入朝。彭德怀接见沙林等苏联顾问时，全程都由徐介藩翻译。平时很少夸人的彭德怀对徐介藩非常满意，他说，各方面由于翻译误差而出现意见分歧、发生争执的现象大大减少了！
五、哈军工的装甲兵工程系主任
1952年6月徐介藩奉调回国，休息了3个月后，接到黄埔学长陈赓的电话。
“老徐啊，我是陈赓。周总理推荐你到军事工程学院工作，请来我们筹委会报个到吧，来帮兄弟一把，我派车去接你老兄。”
徐介藩喜出望外，与陈赓黄埔一别，音信皆无，他在苏联那漫长的岁月中，只要想起黄埔军校，陈赓的影子就会浮现眼前。27年后，在朝鲜战场的志愿军司令部里才与陈赓学长重逢，但他们在一起工作的时间太短，陈赓就奉调回国办大学去了。没有想到陈赓这次点名要自己去军工学院工作，能在老学长的领导下工作，徐介藩深感荣幸，他匆匆赶往恭俭胡同军工学院筹委会去见陈赓。
陈赓十分器重徐介藩，除了他那精湛的俄文外，特别看重他在苏联学习航空的经历，初步决定让他担任空军工程系（一系）主任。朝鲜战争我军吃尽了美军制空权的苦头，要把空军系放在学院建设的第一位，就得有个大将来担纲。
12月1日，徐介藩与李懋之、唐凯、赵唯刚、葛燕璋一行同乘一趟车，奔赴风雪漫天的哈尔滨。
1953年春天，徐介藩的主要工作是与老红军葛燕璋搭档，筹建空军工程系。5月，唐铎来到哈军工，陈赓权衡再三，考虑到唐铎在苏联空军服役28年，又是军校教官和航空兵器专家，就与徐介藩商量，拟调整他和唐铎的工作岗位。徐介藩坚决服从组织安排，调任装甲兵工程系（四系）任主任，那时候这个系才79人，困难很多，他与系政委江洪涛密切配合，创建新系。1959年初江洪涛调任南京军区装甲兵政治部主任后，新的系政委是赵敬璞，徐介藩与前后两任系政委互相尊重，合作融洽。
自苏联妻子病故后，五十开外的徐介藩成了老单身。之前，林彪前妻张梅与林彪离异，1948年回到祖国，在沈阳的中国医科大学学习。1953年初，徐介藩妥善处理好与原籍发妻张氏的关系后，与张梅结为伉俪，组织了新的家庭。他们之间相敬如宾，对林彪的长女林晓霖，徐介藩视如己出，关怀备至。林晓霖在沈阳读高中时期，常在暑假里回哈尔滨度假，她同母亲和继父之间常是俄语会话。后来，徐介藩与张梅育有一儿一女。
在军事工程学院初创之时，徐介藩始终保持着一位老共产党员艰苦奋斗、严于律己的作风，他跟陈赓等院系领导一样，与张梅住在24平方米的小平房里。为了培养装甲兵工程技术干部，徐介藩全身心地抓好全系的教学和科研工作，为了提高教学质量，系里成立教学方法指导委员会，徐介藩亲任主任，流畅的俄语使他与苏联顾问交流方便，比如他认为俄语课学时太多，要砍去一些以保证技术课，为此与苏联顾问争论得面红耳赤。他尊重知识，尊重人才，充分发挥专家教授的主导作用。听说哈工大有一位讲师叫徐滨士，在焊接和维修专业上颇有造诣，徐介藩慧眼识英才，说什么也要调过来，最后用系里另一位教员去交换，哈工大才放了徐滨士。数十年后徐滨士是中国表面工程方面的学科带头人，中国工程院院士。
徐介藩既严格管理、从严治教，也特别深入实际，生活在学员当中。每次学员到关里部队的坦克团见习的时候，他都陪同苏联专家去检查，解决学员的实际困难；干部愿意到他家里汇报工作，谈话时间一长，张梅就把香喷喷的小米粥端上来。