原子的存在最初是作为一个假设被提出的。
为了解释物质的属性，比如水、气、土、火的性质，古希腊和古印度的哲学家假设物质是由很小很小不可再分的颗粒组成的，这就是原子。原子（atom）在古希腊语中就是不可再分的意思。
原子假设是个很难理解的假设，在大家的日常经验中假设物质可以一直分解下去，比假设物质分有限次后就无法分解了要更困难，更不直观。中国古人有“一尺之棰，日取其半，万世不竭”的说法，这个说法更符合大家的日常经验，大家相信一块石头可以一直切分下去，并保持石头的性质。但实际上一块石头，一次砍掉一半，大家切分不了几次就会达到物质结构中原子的尺度——1埃（10的-10次方米或一米的百亿分之一）。
原子太小了，肉眼不可能直接看到，几乎没有经验事实支持原子的存在。最早支持原子存在的实验是富兰克林的油膜实验，富兰克林发现油膜能使湖水平静下来，一勺橄榄油（橄榄油分子结构如下图）能使大约半英亩的湖面平静下来。由此可以估算出油膜的厚度是大约1纳米，正好对应油脂分子的尺寸。
化学反应中的定比、倍比定律也可以用原子假设予以解释。比如：1克氢气正好和8克氧气反应生成9克水蒸气。并且体积比是2：1：2。大家可以猜测2个氢气分子和1个氧气分子反应，重新组合后正好生成2个水分子，在这个过程中原子本身不变，不同的原子建构在一起组成分子。
早期的化学研究与热学研究紧密关联，热学最早的研究对象就是气体，理想气体的状态方程是：PV=nRT。热学本身是基于宏观实验建构起来的，但大家也可以假想一个微观图像，由微观图像推导出宏观的状态方程。
比如在这里大家可以假想气体是由很多原子（或分子）构成的，它们在做无规则的热运动，气体原子的动能正比于温度，气体原子撞击在器壁上导致压强P，考虑到这些因素后大家就可以推出气体的状态方程。
在物理学史上，以上科学工作都不足以说服物理学家相信原子是真实的存在的。真正有说服力的工作是布朗运动。
布朗运动说的是这样一个事情。
假设在液体中放一些花粉的小颗粒，大家用显微镜观察这些小颗粒，大家发现它们在做无规则的运动。假设存在原子的话，这一实验事实不难理解，组成液体的原子（或分子）始终在做无规则热运动，由于花粉颗粒很小，某一瞬间所有撞击花粉颗粒的原子的冲量不能互相抵消，于是花粉颗粒就会在原子的无规则撞击下运动起来。
爱因斯坦研究了布朗运动，并推出一个公式：
这里η是液体粘滞系数，t是时间，r是花粉颗粒的半径，T是温度，R是普适气体常数，等式左侧是花粉颗粒在时间t内移动距离的平方的平均。由这个公式，大家可以计算出阿伏伽德罗常数N，每摩尔物质（如果是气体的话就是22.4升）都包含阿伏伽德罗常数个原子（或分子）。知道了N，大家就可以推知单个原子的质量及大小。
佩林在爱因斯坦论文的启发下，完成了上述实验并最终获得了1926年的诺贝尔物理学奖。他的获奖理由就是发现了物质的非连续结构（即原子结构）。
在佩林的工作之后，物理学家就普遍相信原子是真实的存在而非想象的构造了。与此同时，汤姆逊又发现了原子中存在带负电的电子，卢瑟福则进一步证明原子中的正电部分（原子核）是集中分布的。
这一系列工作都使得——物质是由原子构成的——这一图像越来越清晰。物理学家对原子尺寸物理现象的研究最终导致了量子力学，这是目前物理学最基本的原理。
今天基于量子隧穿效应的原子力显微镜更可以对原子（或分子）尺度的物质结构直接成像。
（图片来源：Berkeley News）
有了这么多证据，在物理学家看来，原子的存在和大家屁股下面椅子的存在并没有本质区别。
