印度洋古称“厄立特里亚海”，意为“红海”。这个名字最早见于古希腊著名历史学家希罗多德（公元前484年——前425年）所著《历史》一书，以及他所编绘的世界地图中。
印度洋的得名比厄立特里亚海晚得多。最早使用此名的人可能是公元1世纪后期的罗马地理学家彭波尼乌斯·梅拉。公元10世纪，阿拉伯人伊本·豪卡勒在绘世界地图时，也采用了这个名字。而近代正式使用印度洋一名则是在1515年左右，当时在中欧地图学家舍奈尔编绘的地图上，把这片大洋叫做“东方的印度洋”，此处“东方的”一词是和大西洋相对而言的。到了1570年，奥尔太利乌斯所编绘的世界地图集里，把“东方的印度洋”一名的“东方的”去掉，成为通用的称呼，一直沿用至今。