正当核物理研究所荟萃了来自全国的所有核物理精英时，中国最高领导人把大力发展原子弹的重担郑重交到了以钱三强为首的这批专家们手里。1955年1月15日，李四光、钱三强参加了在中南海举行的中央书记处扩大会议。那一天下午，几十位中央领导及有关负责人聚集在颐年堂会议室，毛泽东开宗明义说：“我们这些人当小学生，就原子能的有关问题，请你们来上一课。”接着，钱三强把自己丰富的核知识浓缩起来，用通俗的语言向中央领导们做了讲解。他介绍了世界上发展原子能的过程，并介绍了中国现有的条件，认为已可以起步发展。为了形象直观地介绍对核辐射的测量，他还把事先准备好的自制改革计数器放到桌上，又把一块铀矿石装在自己口袋里从桌旁走过，计数器马上发出“嘎、嘎”的声响，会场上传出一片笑声。接着，中央领导们从钱三强那里接过铀矿石标本，提出了各种各样的询问。经过研究和听取汇报，中央领导认定我国已有发展核事业的物质基础和一定的科研力量。会上，毛泽东一面听讲，一面吸着烟深思，征询了各种意见最后总结说：“现在到时候了，该抓了。”在三个多小时的会议中，中央确定了发展本国核力量的战略。会上，毛泽东还以哲学家的思辩同钱三强讨论起关于原子的内部结构问题。他首先问道：“原子核是由质子和中子组成的吗？”钱三强回答：“是这样。”“那质子、中子又是由什么组成的呢？”毛泽东又问道。毛泽东提的问题并不离奇，要回答准确却使钱三强作难。他想了想，便如实地说：“原子论起源于古希腊时期。‘原子’这个词，古希腊文的意思是‘不可再分的东西’。根据目前的研究，质子、中子是构成原子核的基本粒子。所谓‘基本粒子’，就是最小的，不可再分的。”
“是不可分的吗？”毛泽东以怀疑的口气发问。
“这个问题正在研究，能不能分，还没有被证实。”钱三强从实验物理学家的角度作了解释。
毛泽东抽着烟，用心思考。他进一步用探讨的语气说：“我看不见得吧。从哲学的观点看，物质是无限可分的。质子、中子、电子也应该是可分的。一分为二，对立统一嘛！不过，现在实验条件不具备，将来会证明是可分的，你们信不信？”
钱三强静静地听着，大家也都静静地听着。
“你们不信，反正我信。”毛泽东微笑着结束了谈话。
书记处扩大会议结束后，毛泽东留大家共进晚餐。钱三强被安排与毛泽东同桌，坐在毛泽东对面的席位。李四光坐在毛泽东的右手位，他用湖北话和毛泽东交谈，无拘无束。
席间，坐在毛泽东左手位的彭真介绍说：“三强的父亲钱玄同曾是北大教授，主席那时也在北大，见过面没有？”
“知道，但是没见过面。”毛泽东对钱三强说：“最近，读过你父亲的一篇文章《新学伪经考序》。”
“父亲写这篇文章时，我在读高中，曾经听他讲过，花了不少功夫写成的。”钱三强说。
毛泽东说：“钱先生在他的文章里，批评了他的老师章太炎。《新学伪经考》是康有为的著作，他说很多古书都是经过后人篡改过的。章太炎对这本书有反对意见。钱先生为重印《新学伪经考》作了长序，这篇文章代表他对经学今文、古文问题的成熟见解。……钱先生反驳了他的教师章太炎。这种勇气，是很不容易的。”
毛泽东说完环顾另外两桌后，举起酒杯站起身，大声说：“来，为我国原子能事业的发展，大家共同干杯！”最后，毛主席郑重地讲话：
“我们国家大，现在已经知道有铀矿，进一步勘探一定会找出更多的铀矿来。解放以来我们也训练了一些人，科学研究也有了一定的基础，创造了一定条件。过去几年其它事情很多，还来不及抓这件事。这件事总是要抓的，现在到时候了，该抓了。我们有资源、有人，只要排上日程，认真抓一下，一定可以搞起来。……现在苏联对我们援助，我们一定要搞好。我们自己干，也一定能干好，我们只要有人，又有资源，什么奇迹都可以创造出来！”
为了奇迹的出现，钱三强马不停蹄地朝着目标前进。他知人善任，组织全国核科学家开始踏上了连续攻克理论和技术难关的研制原子弹征途。作为核物理研究所的所长，钱三强大公无私，精心组织，大力协同，发扬艰苦奋斗、自力更生精神，组织攻克了一个又一个理论和技术难关。到1958年，我国第一个重水型反应堆和第一台回旋加速器在他领导的研究所先后建成；静电加速器、中子谱仪、零功率装置、磁镜型绝热压缩等离子体实验装置等近50台件重要仪器设备也相继制成运行。随之，原子物理、中子物理、堆物理、堆工程技术、钚化学、放射生物学、放射性同位素制备、高能加速器技术、受控核聚变等项研究都先后开展起来，真可谓人才济济，成果累累。这些表明新中国第一个综合性的核科学技术基地已经名副其实地形成。
以钱三强为首组建并逐步发展起来的这个基地，后来起到了“老母鸡”的作用：一方面，在全院以至全国派生出多个核科学研究机构，如高能物理研究所、兰州近代物理研究所、上海原子核研究所、西南物理研究所等；另一方面，通过实践培养出一大批核科学领域和核工业战线的杰出人才。据统计，在该所工作过的科学家中，到目前已有40余人以突出成就和重大贡献当选为中国科学院院士或中国工程院院士。
正当我国的核物理研究进行得如火如荼之时，1959年6月，苏联单方面毁约，撤走专家，带走图纸，停止供应一切设备，包括原子弹教学模型。毛泽东发出号召：“自己动手，从头做起，准备用八年时间，拿出自己的原子弹。”中国的原子能事业进入全面自力更生的阶段。
作为我国原子能事业的组织者和领导者，为了国家的全局利益，钱三强完全放弃了个人在科研上继续有所成就的想法，他全力考虑的是，将最好的科学家放在最重要、最能发挥作用的岗位上。他说：“我这一辈子所做的事情中，这件事是最有意义的。”钱三强割爱把原子能所最优秀的一批理论和实验物理学家，如王淦昌、彭桓武、朱光亚、邓稼先、丁敏、陈能宽等人，推荐到核武器研制的重要岗位；同时，他利用原子能所的现有条件，直接为二机部系统培训了1706名有关专业技术人员。
钱三强很清楚，中国原子能事业面临道道难关，一道受阻就可能全线败退。他在科学院党组张劲夫同志的全力支持下，放心大胆地把最艰巨的任务留在科学院，并和裴丽生、秦力生、谷羽等人一起，亲自组织力量攻克难关，保证“两弹”研制任务顺利完成。钱三强亲自领导的攻关小组，经过四年努力，终于研制成合格的扩散分离膜，使我国成为继美、苏、法之后第四个能制造扩散分离膜的国家。钱三强还领导了原子能研究所的重点科技攻关项目，经过数年多达978次的反复试验，终于完成了技术、质量要求异常严格和复杂的原子弹心脏部件的生产。为了协助研究所攻克“点火装置”的重大核心科学难题，钱三强把自己十多年前从法国带回来的放射性碎渣无私地送给了研究所。
1960年的春天来临了，作为“两弹”的组织者，钱三强左右开弓，一手抓原子弹，一手抓氢弹，在他统筹安排、精心组织下，科学家们超前对氢弹进行理论设计。继1964年10月16日，我国第一颗原子弹成功爆炸之后的两年零八个月，即1967年6月17日，中国又传来了第一颗热核氢弹成功爆炸的喜讯。其他发达国家原子弹与氢弹成功爆炸的相隔时间都比我们的时间要长，美国为七年零三个月，前苏联的相隔时间是四年，英国是五年零两个月。80年代中期，法国的中子之父万德耶斯曾对钱三强说：“由于你们的氢弹赶在了我们前面爆炸，我们都挨总统的训，不知你们有什么诀窍？”钱三强很自豪地回答说：“我们除了核燃料作了事先安排外，在研究设计原子弹的同时，就安排了氢弹原理的探索性研究。”
同样，在组织“两弹”攻关的同时，钱三强还运筹帷幄，点将组织队伍对核潜艇开始研究设计工作。早在1958年，他便调彭士禄和赵仁凯等人在中科院原子能所组织队伍，开展研究工作。“两弹”爆炸成功后，他又把大部分时间集中到核潜艇研制的组织协调工作上，60年代中期，钱三强在组织领导中国核武器研制和完善的同时，又将战略目光投向了和平利用原子能，推荐李整武前往四川开展我国核聚变的研究，担任中国最大的受控核聚变实验装置——托卡马克型“中国环流器一号”的总设计师。70年代初，钱三强又组织人开展核电站的研究设计工作。
除了在我国原子能事业方面建立了不朽功勋外，钱三强对于中国科学院的学部筹建工作也起到了很大的作用。1953年，为了适应新形势，中国科学院采取了一系列重大措施，其中第一个措施就是全院性的向苏联学习，特别是在发展和完善院的学术和组织领导方面吸取苏联经验。年初，中国科学院决定派遣代表团访苏。代表团由26位科学家组成，钱三强任团长。同年10月，中国科学院召开研究所所长会议，传达代表团访苏情况，集思广益，讨论、研究制定院的工作和发展目标，提出了成立学术秘书处和筹建四个学部的设想。