1935年，日本侵略军再次出兵南侵，威胁平津，并策划华北五省（当时的河北、山东、山西、察哈尔和缓远省）自治，企图把华北变成第二个伪满洲国。华北局势危急，救亡呼声响彻云霄。
翁文灏见国势危急，在北平给蒋介石拍了一封电报，以忧虑的心情告诉蒋介石说：
“华北将失，勿忘国民。”
蒋介石接电后，不日动身北行，在保定停车，约见了北平的知名人士。当见到翁文灏时，蒋一再表示：政府决不放弃北平。
同年10月，蒋介石任行政院长，再次约请翁文灏去南京任行政院秘书长，同时任命为行政院政务处长的有清华大学教授蒋廷等人。当时，这批人被称为“学者从政派”。蒋介石这样的人事安排，实际上有其个人目的，那就是利用翁文灏等人的声誉给国民党政府装点门面。蒋以国难日急为由，对翁说：
“日本内侵愈急，你在南京政府受一官任，以便随时面商。”
其实蒋介石请翁文灏出山做官已有两次了，但都被拒绝了。但这次应允了，开始了他在蒋政权的官宦生涯。此时从政，有其深刻的客观原因和主观原因：当时山河破碎，地质事业的开展已十分困难，抗日成为中华民族的头等大事；翁文灏1934年遇车祸之后，生命垂危的时候，蒋介石请来名医，竭尽全力医治，因此病好了要知恩图报。
翁文灏受任南京后，把地质调查所也迁到南京，盖房子，扩大工作范围。他仍住在地质调查所内，以所为家，照常照料该所工作。
翁文灏在从北平飞往南京的途中，写了一首七律，恰是他当时心境的反映。诗曰：
滔滔浪水大江东，兵革春申奋斗中。
早该弹丸破割据，誓除侵略抗强雄。
神州命脉竞争烈，华国英豪肝胆忠。
我亦应捐微顶踵，齐心看取九州同。
抗日救国的思想已跃然诗中了。而且他还将在“中福公司”分红的全部存款1万元，如数购买了救国公债，可见他救亡图存的决心了。因此，出任国民党政府的行政院秘书长职务，也可能是被蒋介石打着抗日的旗号所迷惑，而误认为这样就可以投身于抗日的斗争中去了。
1937年4月，蒋介石派翁文灏随孔祥熙赴英国，参加英王乔治六世的加冕典礼，实际上是借机交给翁一个秘密任务：访问欧洲各国朝野要人，探询一旦中日关系恶化，这些国家可能采取的立场和方针，以及考察各国的经济建设状况。此次访问，翁曾会见过英国外交大臣文登、德国元首希特勒、原苏联外长李维诺夫等，并在各地参观了炼油厂、钢铁厂，与很多官员，专家商谈了经济建设问题。
翁文灏从国外回到南京时，国内形势已经是十分危急了，淞沪会城正打得十分激烈，国民党军队在各条战线节节败退，南京旋即失陷。国民党政府不得不仓皇迁移到武汉。此时，翁文灏仍然没有看清当前的形势，把抗战胜利的希望寄托在国民党政府，于是他又接受了蒋介石的任命，当行政院经济部部长兼资源委员会主任委员和工矿调整处处长。在担任经济部长期间，他创办了玉门油矿和天府煤矿，为抗日战争提供了大量能源，为抗战胜利做了一些有益的事情。
抗战后期，蒋介石又利用翁文灏在美国人民心目中的学者身份和清廉的名声，任命他兼任与美国人打交道的战时生产局局长。抗战胜利前夕，蒋介石又封翁为挂名的行政院副院长，并推荐他为国民党党员和中央委员会委员。
由于翁文灏从政的目的是为了抗日，既然抗战已经胜利，战后辞官当然是他顺理成章的想法。他曾接连五次向蒋介石辞职，申明“原为对日抗战而参加政府工作，自当为抗日胜利而告退”，坚决要求辞去在国民党政府内所担任的一切职务。由于翁文灏的一再请求，蒋介石才批准他辞去了经济部长兼资源委员会主任委员一职，同时结束了战时生产局长和工矿调整处处长等工作。
1948年4月在南京召开的国民大会上，蒋介石自选为总统，并依照宪法规定，行政院长人选由总统提名，经立法院表决通过。由于国民党统治集团内部的派系争斗激烈，蒋介石原意提名张群继续担任行政院长，而CC派立法委员们则主张在中央党部用试行投票的方式抬出何应钦相对抗。蒋介石十分恼火，因为何应钦（1890—1987）曾在“西安事变”中主张用飞机炸平西安，炸死蒋介石，想取而代之。不得已，蒋决定另推一人来充任此职，他首先想到用同乡翁文灏，因翁在国民党政府内无派无系，绝属中立人士，就这样“拉郎配”式地提出翁文灏担任行政院院长。这项任命大出翁文灏的意外，对他来说，这是一个飞来的也是捡来的大官。翁闻讯后，急忙找到蒋介石，向蒋表白，不愿上任的想法，认为本身素质与才干都很难担当这个职务。但蒋主意已定，再说也无济于事，次日翁被提名通过。
翁文灏虽然很不愿意当行政院长的职务，但又不敢坚持不当，唯恐得罪了蒋介石，怕后患无穷，因此只得勉强同意“暂行试任”。翁文灏当了6个月的行政院长，在这短短的6个月间为蒋政权所利用，或为“动乱反共”的工具，因而铸成大错，成为仅次于总统蒋介石、副总统李宗仁的国民政府内第三号人物，以致后来（1948年12月25日）被新华社列为国民党的第十二号战犯。
后来，翁文灏每次回忆往事，总以弃学从政为憾，并作“时艰未许展怀抱，仓皇劳碌累风尘”之句，借以表达此种心情。