彗星拖着长长的尾巴，在古人眼里常被视作灾难的征兆。中国民间俗称为“扫帚星”，“彗”字即指扫帚。一般彗星由彗头和彗尾两部分组成。
彗头包括彗核和彗发两部分。自1970年以来，地球大气外观测发现3颗彗星的彗发外面还有氢原子云，称为“彗云”或“氢云”。彗云包围着彗发，直径为100万～1000万千米。因此，应该把彗核、彗发和彗云合称为彗头。彗头的结构往往十分复杂，不同彗星也有很大差别。不少彗星的彗头没有彗云。有的彗星的彗头中连彗发也没有，只有彗核，尘埃组成的彗尾直接从彗核开始背向太阳延伸；有的在彗核周围稍有彗发，彗发呈球茎形状；有的彗发很亮，呈抛物面形状包围着彗核，形成锚形彗头。彗核一般难以直接从彗头中分辨开来，它的直径很小，只有几百米到上百千米，但集中了彗星的绝大部分质量。大彗星的质量为103亿～108亿吨，小彗星质量只有几十亿吨。彗核的平均密度约1克／厘米3，有些彗核的密度可能更大些，也有一些彗核密度或许只有0.01克／厘米3。彗发的体积随彗星离太阳的距离而变化，直径比彗核大得多，一般有几万千米，有的达到180万千米，比太阳还大；但彗发的质量很小，物质很稀薄。
少数大而亮的彗星走到土星轨道附近时，就可以从大望远镜中看到，但一般彗星要走到离太阳3个天文单位左右才能从望远镜中看到，这时彗星只有暗星状彗核及其周围朦胧的彗发。当它走到离太阳2个天文单位左右时，开始产生彗尾，离太阳更近时，彗尾显著地变长变大。当它过近日点之后离开太阳越走越远时，彗尾的体积很大，大彗尾长达上亿千米，宽度从几千千米甚至到2000多万千米，但物质是极稀薄的（密度只有地面上空气的十亿亿分之一）。当彗发和彗尾遮掩恒星时，一般星光不因此而减弱或偏折，但有时也观测到星光闪烁。1910年，哈雷彗星的彗尾曾“扫”到地球，地球上毫无异常现象。彗发和彗尾的总质量一般只占彗星质量的1％～5％，彗尾形状多种多样，一般总是向背离太阳方向延伸，而且常常有两条以上。彗尾可分为两类：①彗尾较直，由离子气体组成，称为“离子彗尾”或“气体彗尾”，又称工型彗尾，因含CO+离子的发射，呈蓝色。这类彗尾是太阳风的很强斥力作用于彗星中的离子形成的。②弯曲的，由微尘组成，呈黄色，称为“尘埃彗尾”，弯曲程度较小的又称Ⅱ型彗尾，弯曲程度较大的称为Ⅲ型彗尾。这类彗星是太阳光子的辐射压力推斥微尘而形成的。此外，还有一种看上去好像朝太阳方向延伸的扇状或长钉状彗尾，称为“反常彗尾”，这只是投影效应。