人类对自然界这个物质世界的认识，经历的探索时间是漫长的。土石叠为山丘，水流汇成河海。那么，土石和水流是由什么东西组成的？世间万物是怎样来的？假如不是无中生有的话，那么它们必定是由某些原始物质组成的，这些原始物质是什么？对这些问题的看法，或者说关于“原子”的设想，古代人就有多种多样。
早在公元前1000多年的殷周时期，我们中国人就提出了五行说，用金、木、水、火、土这5种常见的物质来说明宇宙万物的起源和变化。到了春秋战国时期，由五行说的发展而产生了五行相生、相克的观念。相生如木生火，火生土，土生金，金生水，水生木；相克如水克火，火克金，金克木，木克土，土克水。五行说中的合理因素，对我国古代的天文、历数和医学等方面，起了一定的作用。古代印度人也提出过与此类似的五大说，五大说指的是地、水、火、风、空。
我国春秋时期的楚国，出了个与孔子齐名的大学问家老子。老子做过周朝管理藏书的官，后来隐居了。他写的《道德经》虽然只有5000字，内容却非常丰富。那时候，人们认为宇宙间的万事万物都由神的意志统治和主宰。最高的神是天，也称为上天或天帝。所以，几乎人人都敬畏上天。然而，老子的看法却与众不同，他说，天地是没有仁义的，它对于万事万物，就像人对待用草扎的供祭祀用的狗一样，用完了就扔，不会有什么爱憎之情的。那么，天地万物的根本是什么呢？老子认为，有一样东西，在天地万物生长运行之前就存在了，世界上的所有东西不论什么都是由它产生的，没有了它，就什么也不会有。它就是“道”，即世界的本原是“道”。那么，道是一种什么样的东西呢？老子认为道是不能用语言表达的一种看不见、听不着、摸不到的混混沌沌的东西。你遇见它时，看不见它的前面；你跟着它时，看不见它的后面。然而，它又无处不在。按老子所言：“它惟恍惟惚，是无状之状，无像之像。”这就是我们所称的道家。道家说的这个“道”是精神的还是物质的，人们对此有不同的看法。我们也会觉得，这种“原子”的确让人“恍惚”。
大约公元前600年，在古希腊，有个叫泰勒斯的哲学家，认为水是万物的本原。他认为，大地和万物，都是经过了一个自然过程，从水中产生的，就像尼罗河三角洲，是由淤泥沉积起来的一样。稍后，有个叫阿那克西曼德的人认为，万物的本原是一种被叫做“无限”的不固定的物质。它在运动中分裂出冷和热、干和湿等对立的东西，并且产生万物。
大约在公元前400多年，古希腊的哲学家德谟克利特发展了他的老师留基伯的原子学说，他把构成物质的最小单元叫做原子。他认为，原子是一种不可分割的、看不见的物质微粒，它的内部没有任何空隙。原子在数量上是无限的，它们只有大小、形状和排列方式的不同，而没有本质的差别。原子在无限的虚空中急剧而无规则地运动着，互相碰撞，形成旋涡，从而产生了世界万物。
古人对物质的本原即“原子”的设想很多很多，这许许多多的说法，只能当做近代科学研究的一种参考，而不能看做是科学真谛。为什么这样说呢？因为这些假说的提出，都没有想到或没有条件用实验来检验它们的正确性。只有能够用科学的方法进行检验，并且能经受住这种检验的东西，才是科学的东西。大约过了2000年的时间，直到17世纪，人们才开始用近似于科学的方法来研究物质结构的活动。
17世纪以前，人们还不知道空气里含有多种成分，以为空气就是空气，甚至不知道空气与蒸汽的区别。17世纪初，比利时的一个叫海尔蒙特的医生，第一次“天才地”起用了“气体”这个名词，并首次指出“蒸汽比气体容易凝结”的现象。海尔蒙特是个二元论者，他认为世间万物都是由水和空气这两种单元构成的。为证实这种猜想，他做了个非常有趣的柳树实验。
海尔蒙特用一个大瓦罐，往里面放了90.7千克烘干的土，再栽上一棵2.25千克的柳树苗。此后，除了往罐里浇水之外，不再放任何东西。而且，还把柳树的落叶一片片地拾起来保存着。这样过了5年，他拔起柳树再称，连同所有的落叶一共重76.8千克。再把土倒出来烘干称，只比原来少了0.05千克，柳树净长了746千克。多出来的物质是从哪里生出来的呢？海尔蒙特认为它生自空气和水。
1661年，英国科学家波义耳提出了化学元素概念，为科学地研究化学奠定了基础。百余年后，人们相继用实验手段发现了氢、氮和氧等元素，到这时才知道空气是由多种气体组成的。
1803年，英国化学家和物理学家道尔顿，把原子从一个扑朔迷离的哲学名词变为化学中掷地有声的实在单元。他用原子的概念来阐明化合物的组成及其所服从的定量规律，并通过实验来测量不同元素的原子质量之比，即通常所说的“原子量”。这种始自化学的原子假说叫做“化学原子论”，也可以说是科学的原子论。
道尔顿认为：“化学的分解和化合所能做到的，充其量只能让原子彼此分离和重新结合。物质的创生和毁灭，不是化学作用所能达到的。就像我们不可能在太阳系中放进一颗新行星和消灭一颗老行星一样，我们也不可能创造出或消灭掉一个氢原子。”
由于时代的局限性，道尔顿不可能预见到百年之后化学作用之外的物理作用的巨大威力。科学的发展表明，采用物理手段，就像我们能在太阳系中放进一颗新行星或消灭一颗老行星一样，我们不仅能创造出或消灭掉任意原子，而且同样能分割原子核乃至更深层次的基本粒子。