在冯·诺依曼的全部工作中，对改变人类命运影响最大的要算是研制电子计算机，因此，他被人们戴上了“计算机之父”的桂冠。
冯·诺依曼是20世纪科学史上最杰出的数学家之一，享有“计算机之父”的盛誉。他于1903年12月28日诞生在匈牙利的布达佩斯，爱称约翰尼。父亲是犹太人，是位富有的银行家。约翰尼从小天资过人，有惊人的记忆力、理解力、心算能力和语言表达能力。他3岁时就能把父亲账本上的数字一字不差整页背下来。5岁时，他能心算8位数除8位数的复杂算题。他只要看几眼电话号码本，就能把上面的人名、地址、电话号码全背下来。到了10岁，约翰尼已成为布达佩斯人人皆知的“神童”。
为了开发儿子的智力，让儿子的才华充分发挥出来，父亲决定不惜花费重金聘请国内第一流的家庭教师。但是，没有一个人敢于应聘，父亲只好把儿子送到正规学校学习。数学老师拉兹很快就发现约翰尼的数学才能过人，他认为自己的数学水平已经满足不了约翰尼深造的需要，于是推荐青年数学家费凯特教授对约翰尼进行课外辅导。中学时，约翰尼获匈牙利数学竞赛第一名。中学毕业前，他的数学水平就赶上了费凯特教授，并同这位教授合作完成了第一篇数学论文，成为一名最年轻的数学家了。
在选择大学志愿的时候，约翰尼同父亲发生了分歧。父亲希望儿子能够继承他的事业，成为一名银行家，可儿子酷爱数学，有志成为数学家。父子争论的结果，父亲同意约翰尼到国外去学习化工，在他看来，当一名化学工程师总比穷数学家好。1921~1925年的4年里，约翰尼的大部分时间是在德国和瑞士度过的。他在柏林大学听过爱因斯坦的统计物理课，在著名的苏黎士联邦工业大学上过课，和著名数学家希尔伯特、波利亚等人有过广泛交往，从中受到深刻的教育和启发。1925年，他获得瑞士苏黎士联邦工业大学化学工程师的文凭，与此同时，在数学和物理学方面也得到严格的训练，达到了相当高的水平。1926年，又获得布达佩斯大学的博士学位。
大学毕业后，冯·诺依曼在柏林和汉堡当了几年讲师，不久又来到当时世界数学研究的中心哥廷根，在大数学家希尔伯特的身边当助手。此间，他为量子力学这门新兴学科做出了重要贡献，替量子力学建立了严格的数学表述。1929年出现了全球性的经济危机，欧洲的政局动荡不定，冯·诺依曼预感到欧洲的前景不妙，于是，在1929年10月毅然接受美国普林斯顿大学的邀请，来到即将诞生的新的世界科学中心。1930年，年仅27岁的冯·诺依曼被提为普林斯顿大学教授。1933年，他被邀请到普林斯顿高等研究所，在那里云集了一大批世界最优秀的科学家。终身教授只有爱因斯坦、亚历山大、维布仑、莫尔斯、列尔和冯·诺依曼。冯·诺依曼是其中最年轻的一名。
在普林斯顿，冯·诺依曼开始了他的黄金时代。在美国的头10年中，他在纯数学和应用数学方面做出了许多优良成果，被誉为普林斯顿的“数学明星”。1940年，根据第二次世界大战的需要，他转向为战争服务的应用数学，担任了美国陆军弹道实验室顾问。1943年参与曼哈顿计划，对原子弹的配料、引爆、爆炸效果等问题，提出过宝贵意见。他善于把实际问题转化为数学问题，提出解决问题的方法。1944年，冯·诺依曼开始参与电子计算机研制工作，他提出研制EDVAC型机的设计报告，确定了计算机采用存储程序和二进制，这标志着通用电子计算机的诞生，开辟了电子计算机的新时代。他还研究了计算机的应用问题，发明了自动编制程序的方法，将电子计算机应用于核武器设计和天气预报等方面。
从40年代末开始，冯·诺依曼集中精力研究自动机理论，将大型计算机与人的神经系统进行比较，为后来的人工智能研究打下了基础。他一向身体很好，可是从1954年开始感到乏力、疲劳，检查证明他竟得了骨癌。在病情日渐恶化的情况下，他仍然以惊人的毅力坚持工作，坐在轮椅上不停地思考、写作、参加会议。1957年2月8日，冯·诺依曼在华盛顿里德医院与世长辞。他临终前抱病未写完的讲稿，于1958年以《 计算机和人脑 》为题出版单行本。
冯·诺依曼的科学工作受到政府和学术界的高度重视，各种荣誉和头衔纷至沓来。他晚年的公职头衔就达十几个。他是美国海陆空三军重要机构的顾问，是政府的高级官员。1955年被总统任命为国家原子能委员会的委员和导弹顾问委员会主席。1956年获得总统授予的自由勋章。1951～1952年，他担任美国数学会的主席，1945～1955年任电子计算机设计局局长。1956年，他获得了美国首次颁发的爱因斯坦奖和费米奖。
冯·诺依曼的研究涉及科学的许多领域：集合论、分析学、代数论、实数函数论、测度论、拓朴学、博弈论、电子计算机的理论与实践、自动化理论、理论物理学等。他的量子力学著作《 量子力学的数学原理 》，是一部世界经典名著，已被译成英、法、俄、日、西等语种版本，对量子力学的发展起了重要作用。
在冯·诺依曼的全部工作中，对改变人类命运影响最大的要算是研制电子计算机，为人类智力解放树立了重要里程碑。由于这一最卓越的创造性发明，他被人们戴上了“计算机之父”的桂冠。为了阐明冯·诺依曼在这方面的工作和贡献，我们从研制电子计算机的早期工作谈起。
研制电子计算机的活动始于20世纪30年代。在早期的探索者中，影响较大的是美国文奥瓦州学院的数学物理教授阿塔纳索夫。他提出了用电子技术制造计算机的构思，并制出了样机ABC，但并未得到实际应用。受阿塔纳索夫工作的启示，美国宾夕法尼亚大学莫尔学院物理学家莫克利和研究生埃克特共同设计了电子计算机ENIAC，37岁的莫克利负责总体设计，24岁的埃克特任总工程师。
1944年，ENIAC正处在研制之中，此时，冯·诺依曼正处于为战争服务的应用数学研究。一个傍晚，他在阿伯丁车站候车室里等候去费城的火车。一位在宾夕法尼亚大学莫尔学院工作的名叫哥德斯坦的青年数学家也在这里候车，这位青年人很快认出他就是闻名世界的大数学家冯·诺依曼，他怀着年轻人拜见大人物时的那种局促不安的心情和冯·诺依曼攀谈起来。冯·诺依曼平易近人的风度，和蔼谦虚的态度打消了这位年轻人不安的心情，两人热烈地交谈起来。在交谈中，冯·诺依曼才得知莫克利和埃克特两人的计算机研究工作，他预感到这项研制工作将会引起社会广泛而深刻的变革。冯·诺依曼兴奋极了，他决定把兴趣和精力转向这方面。
几天后，冯·诺依曼急不可待专程到费城宾夕法尼亚大学的莫尔学院参观那个尚未出世的计算机，他同莫克利和埃克特就计算机的结构设计问题进行了认真的讨论。这以后，冯·诺依曼就经常到那里去指导和帮助研制工作，实际上成为一名热心的顾问。在冯·诺依曼的指导下，ENIAC于1945年底研制成功，它使用了1.8万多支电子管和上万个其他电子元件。这台计算机每秒能做5000次加法或400次乘法，比原有的机电式计算机快1000倍。它可用于弹道计算、天气预报、原子能计算等。但是，ENIAC还很不完善，体积大、耗电多、程序安排复杂，至多只能存20个字长10位的十进制数，还不是真正的通用电子计算机。
ENIAC研制成功几个月后，冯·诺依曼就起草了一份新的设计报告，对ENIAC进行了改造，新的设计称为“离散变数自动电子计算机”(简称EDVAC)，它采用存储程序和二进制，由5部分组成：(1)计算器；(2)控制器；(3)存储器；(4)输入；(5)输出。EDVAC是世界上最早的程序内存电子计算机，它是对ENIAC根本性的改进。长达101页的EDVAC设计报告是计算机发展史上一个划时代的文献，它奠定了现代电子计算机结构的基础。
1946年，冯·诺依曼在普林斯顿高等研究院进行了“完全自动通用数字计算机”(简称IAS)研制工作，1951年成功。这是通用机的原型，运算速度每秒达百万次以上。他还专门举办了“电子数字计算机设计的理论和技术”讲座，培养了一大批电子计算机专门人才。在冯·诺依曼工作的基础上，各种型号的电子计算机如同雨后春笋般纷纷出现。到50年代末，计算机年产量已达上千台，计算机工业开始迅速发展起来。
计算机作为人类大脑的延伸，极大地提高了人类脑力劳动的效能，开辟了人类智力解放的新纪元。计算机自冯·诺依曼等人的工作以来，在短短的40年中就得到了迅速的发展与应用，第五代计算机——人工智能计算机的研制工作正在进行之中。目前，计算机已进入人类社会生活的各个领域，以计算机为信息处理工具的工业自动化、农业自动化、交通运输自动化、医疗保健自动化、办公自动化、书报排印自动化等已产生巨大的社会效益，大大地提高了社会生产力，引起了社会经济结构、产业结构、就业结构和社会生活各个领域的深刻变化。在人类历史上，从来没有任何一项技术发明能像电子计算机那样，在短短的几十年间，就在人类社会生活各个领域产生如此深刻的影响。由此可见冯·诺依曼工作的伟大。