1881年5月11日，冯·卡门在匈牙利出生。孩提时代的冯·卡门，就显露出天赋。他6岁能心算五位与六位数字的乘法，9岁入明达中学。17岁时，冯·卡门以中学优等生资格进入约瑟夫皇家工业大学。一个偶然的机会，他发现有一种发动机在运转达到某一速度时，便颤动，噪音很大。经过观察与研究，他很快把这一现象提炼成一个数学表达公式，并推导出解决办法，受到机械学教授彭基的高度评价。
大学毕业后，冯·卡门在军队服务一年，接着便成了彭基教授的助手。期间，他精确化了“欧拉压杆”这一当时著名的难题。25岁时，他获得匈牙利科学院奖学金，到了世界科学圣地——哥廷根，投师于哥廷根大学的路德维希·普朗特门下。在普朗特的指导下，冯·卡门对非弹性杆弯曲现象作了一系列研究。1908年，他获得博士学位。之后，去巴黎考察。不久，普朗特来信，请他去哥廷根大学做助手。他愉快地接受了邀请，开始了他航空科学家的生涯。
当时，普朗特正在从事流体边界层分离现象的研究。冯·卡门到哥廷根大学后，对这一现象非常重视。判明流体在圆柱后面形成的两排交叉的涡旋是稳定的。他就此写了两篇出色的论文。由于有人把这一现象戏称为“卡门涡街”。这一发现成为流体力学中的一次重大发现。
在哥廷根呆了4年之后，冯·卡门回匈牙利一所矿业学院当上了教授。不久，他来到亚琛工学院。第一次世界大战后，他曾在匈牙利苏维埃共和国教育部工作过一段时间，其后10年时间主要是在亚琛工学院任教授。1912—1929年，他担任德国亚琛航空学院院长。
冯·卡门的声望扶摇直上。1922年至1926年，他主持召开了三次国际应用力学会议。期间，通过他的努力，至今仍被人们称作流体力学中最大难题的“湍流”问题获得了第一次重大进展。在1922年的会议上，冯·卡门首次提出“湍流”概念，并初步阐明了它的理论基础。在1924年的会议上，普朗特把气体分子运动论的观点移用到这一问题上，冯·卡门又从更加普遍的角度对普朗特的研究进行深入探讨，提出了新的理论概念。在1926年的会议上，冯·卡门作了题为“湍流中的力学相似”的报告，获得很大成功。
1926年，美国加州理工学院决定把原来的航空小组扩大为航空研究生院，并兴建一个实验室(简称GALCIT)。1929年，具有犹太血统的冯·卡门前往美国，出任GALCIT的主任。两年后，美国航空科学院创建。
1930年到1942年，冯·卡门在流体力学、湍流理论、超声速飞行、工程数学、飞机结构和土壤风蚀等方面，都有重要贡献，他的有关流体力学的出版物几乎统治了整个流体力学领域，GALCIT因此成为国际流体力学的研究中心。他为GALCIT培养的学生，遍布五大洲。
1936年，当科学界对火箭推进技术普遍表示怀疑时，冯·卡门却支持他的学生研究这个课题。1940年，他和马利纳研制出飞机起飞助推火箭的样机。这种火箭也是美国“北极星”、“民兵”和“海神”远程导弹上固体火箭的原型。
1936年，冯·卡门加入美国籍。1941年，他与中国力学家钱学森合作，解决了圆柱薄壳结构在轴向压力作用下的大挠度失稳问题。到1944年，他已在火箭技术领域取得了许多重大成果，如固体和液体起飞助推火箭、火箭发动机飞机、自然点火液体推进剂。
1944年6月，冯·卡门接到阿诺德将军的电话，要求他去机场商谈。会议的内容是制定今后20至50年的美国空军的发展计划。冯·卡门欣然接受，不久便组织了一个由36位专家组成的科学顾问团。
二战结束前夕，阿诺德将军授予冯·卡门“少将”军衔，要他率领一批专家去德国进行接收工作。冯·卡门等来到隐蔽在不伦瑞克附近一片松林中的德国空军秘密研究所，审讯了近千名研究人员，察看了研究设备，分析了300多万份重达1500多吨的研究报告。接着，又去审讯了德国设在佩内明德的V一2火箭基地的400名逃往慕尼黑的技术人员。
1945年12月，冯·卡门向美国当局递交了一份题为《朝着新水平前进》的报告。报告被誉为“美国空军的蓝图”，对美国空军的建设产生了十分深刻的影响。冯·卡门成为美国空军的首要智囊人物。
1949年4月，北约组织成立。冯·卡门想利用北约设立一个国际合作的试验工厂，这个设想被最高当局采纳。接着，他又设立了发展国际航空研究的咨询小组，并在比利时筹建了气动力学训练中心，后来改名为“冯·卡门中心”。50年代，冯·卡门主持了在巴黎和哥本哈根召开的两次国际航空会议，并创建了国际宇航科学协会。
冯·卡门对中国的航空事业也有帮助。1929年，他来到中国，建议在清华大学开设航空课程。1931年，他派遣他的养子沃登道夫来华担任清华大学航空系科学顾问。1938年6月，他再次来到中国，在南昌观看了即将竣工的大型风洞。在加州理工学院时期，冯·卡门培养了一批出色的中国科学家，其中有钱学森、郭永怀、钱伟长等。
1963年2月18日，美国给冯·卡门颁发第一枚“国家科学勋章”。两个月后，冯·卡门逝世，享年82岁。
冯·卡门是现代航空大师、美国空军的首要智囊人物。他的智慧和阿诺德将军的胆识相结合，对美国空军的建设起了十分重要的作用。