计算机是代替和延长人脑功能的技术，它在一定程度上物化并放大了人脑的智力。人脑智力一直是人们着力探索的重大科学技术问题之一。计算机的研制正是揭示人脑智力之谜的远征中的一个组成部分。
1822年，英国数学家巴贝奇（Charles Babbage）设计了一台差分机，它是利用机器代替人来编制数表，从而免除政府在编制大量数表时动用许多人力去进行浩繁的计算工作。1834年他又完成了分析机的设计方案，它是在差分机的基础上做了较大的改进，不仅可以做数制运算，还可以做逻辑运算。分析机已经具有现代计算机的概念，但因当时的技术条件是不可能制造完成的。
1888年，美国统计学家霍勒瑞斯（Herman Hollerith）为人口统计局创建了第一台机电式穿孔卡系统——制表机，它是将机械统计原理与信息自动比较和分析方法结合起来的统计分析机，使美国统计人口所需的时间从过去的8年缩短为2年。霍勒瑞斯在1896年创办了制表机公司，1911年他又组建了一家计算制表记录公司，该公司到1924年改名为国际商用机器公司，这就是举世闻名的美国IBM公司。
1938年，德国工程师朱斯（Konrad Zuse）成功制造了第一台二进制计算机Z-1，它是一种纯机械式的计算装置，它的机械存储器能存储64位数。此后他继续研制了Z系列计算机，其中Z-3型计算机是世界上第一台通用程序控制的机电计算机，它使用了2600个继电器，采用浮点二进制进行运算，运算一次加法只用0.3秒。1944年，美国麻省理工学院科学家艾肯（Howard Aiken）研制成功了一台通用型机电计算机MARK-I，它使用了3000多个继电器，总共由15万个元件组成，各种导线总长达到800千米以上。1947年，艾肯又研制出运算速度更快的机电计算机MARK-II。
至此在计算机技术上存在着两条发展道路，一条是各种机械式计算机的发展道路；另一条是采用继电器作为计算机电路元件的发展道路。后来建立在电子管和晶体管等电子元件基础上的电子计算机正是受益于这两条发展道路。
1946年2月，美国宾夕法尼亚大学莫尔学院物理学家莫克利（John W。Mauchly）和工程师埃克特（J。Presper Eckert）领导的科研小组共同开发了世界上第一台数字电子计算机ENIAC（electronic numerical integrator and calculator，电子数值积分计算机）。ENIAC是一个庞然大物，其占地面积为170平方米，总重量达30吨。机器中约有18 000只电子管、1500个继电器以及其他各种元器件，在机器表面则布满电表、电线和指示灯，每小时耗电量约为140千瓦。这样一台“巨大”的计算机，每秒可以进行5000次加法运算，相当于手工计算的20万倍，机电计算机的1000倍。ENIAC的主要任务是分析炮弹轨道，一条炮弹的轨道用20秒就能算出来，比炮弹本身的飞行速度还快。ENIAC原来是计划为第二次世界大战服务的，但它投入运行时战争已经结束，这样一来，它便转向为研制氢弹而进行计算。ENIAC的成功是计算机发展史上的一座里程碑。
1944年8月至1945年6月是计算机科学技术快速发展时期。冯·诺依曼（John von Neuman，1903—1957）博士与莫尔学院科研小组合作，提出了一个全新的存储程序的通用数字电子计算机方案EDVAC（electronic discrete variable automatic computer，离散变量自动电子计算机），这就是人们通常所说的冯·诺依曼型计算机。该计算机采用“二进制”代码表示数据和指令，并提出了“程序存储”的概念，从而奠定了现代计算机的坚实基础。
英国数学家图灵（1912—1954）建立了图灵机理论模型，并提出了机器智能定义的图灵测试，为计算机的发展奠定了重要的基础。为纪念图灵对计算机的贡献，美国计算机博物馆于1966年设立了“图灵奖”。
自从ENAIC诞生到现在已有半个多世纪，计算机获得了突飞猛进的发展。人们依据计算机性能和当时软硬件技术（主要根据所使用的电子器件），将计算机的发展阶段划分为以下5个阶段。第一代计算机（1946—1958），采用的主要元件是电子管，采用二进制代替十进制，主要采用穿孔纸或卡片作为输入输出设备，速度很慢，几乎没有系统软件，主要用于科学计算。典型的第一代计算机有ENIAC、EDVAC、UNIVAC-I、IBM 701、IBM 702、IBM 704、IBM 705、IBM 650等；第二代计算机（1959—1964），采用的主要元件是晶体管，存储容量增大，可靠性提高，提出了操作系统的概念，开始出现汇编语言，除科学计算外，还用于数据处理和实时控制等领域。典型的第二代计算机有IBM 7040、IBM 7070、IBM 7090、IBM 1401、UNIVAC-LARC、CDC 6600等；第三代计算机（1965—1970），开始采用中小规模的集成电路元件，存储容量进一步提高，而体积更小，操作系统的出现，高级语言进一步发展，使计算机功能更强，计算机开始广泛应用于各个领域并走向系列化、通用化和标准化，计算机应用范围扩大到企业管理和辅助设计等领域。典型的第三代计算机有IBM 360、PDP-II、NOVA1200等；第四代计算机（1971年至今），采用大规模集成电路和超大规模集成电路作为基本电子元件，出现了影响深远的微处理器，引入光盘，输入采用OCR（字符识别）与条形码，输出采用激光打印机，软件配置丰富，软件系统工程化、理论化，程序设计部分自动化。计算机在办公自动化、数据库管理、图像处理、语音识别和专家系统等领域大显身手。典型的第四代计算机有ILLIAC-IV、VAX-II、IBM PC、APPLE等。目前，第五代计算机正处于研发当中。
1971年，美国英特尔公司制成了一种单片式的中央处理器（CPU），即微处理器。微处理器加上半导体存储器（RAM与ROM）、外围接口（I/O）和时钟发生器与他部件，就组成了微型计算机。英特公司在1971年和1972年先后开始生产INTEL4004和8008微处理器，以及由它们构成的MCS-4和MCS-8微型计算机。
1976年，美国硅谷的乔布斯和沃兹匹克这两个年仅20岁的青年设计成功了“苹果”微型机，为计算机进入家庭首开先河。随后，又迅速以新产品“丽莎”投放市场。微型机从此获得了巨大的发展。