对于宋政权来说，由于通西域的道路被西夏阻断，通朝鲜的陆路被辽金先后阻断，东南海上的航路便成了同朝鲜、日本、印支、印度和阿拉伯世界交往和贸易的主要通道。航海的需要使宋代的船向巨型发展，并且由于制船匠们设计了新式的水密隔舱而提高了远航的安全度。整个船体的构造更加合理坚固，并普遍采用了尾舵（这是西汉时就产生了的航海技术上的一大发明），大大改善了船的操纵性能。尤其是宋代的人把先辈的指南磁鱼改变成了指南磁针，为海上远航装备了举世无双的导航设备，播下了航海技术革命的种子。
据《韩非子》记载，战国时中国已有“先王”（时间可见还在战国之前）以天然磁石制成的磁勺——司南，以指示方向。汉代王充《论衡》中也提到了指南勺。但在宋代之前，中国人的对外活动主要在西域、朝鲜、越南等陆路方向上。对于陆路旅行来说，太阳和地面上各种标记物可以使人不迷失方向。所以，指南勺、甚至连马钧和祖冲之制造过的指南车都不过是些没有多大实用价值的发明而已。宋代人没有陆路可通往那些前代人已熟悉了的外部世界，航海便成为同外部世界交往的重要途径，在碧波万顷的大海上除了日、月、星之外，没有任何明显的参照方位和距离的标志，而日、月、星并不一定时时悬现在人们头顶，于是指南针应运而生。
北宋曾公亮（998～1078）主编的《武经总要》中已记载有指南鱼的制造方法。而大科学家沈括（1031～1095）的《梦溪笔谈》中则记载，当时以看风水、看病为业的方士最先把指南勺和指南鱼磨制成灵敏度更高的磁针，并置于罗盘之上。这一点是意味深长的：一个指引人们通向新世界的伟大发明正是经过那些在旧的文化习俗中徘徊的人们的手，才推到历史的面前。指南磁针一经发明，那些目光敏锐、对方士的罗盘发生了兴趣的航海家们便把它安装在船上，用于航海了。这是在公元1000年左右实现的。北宋末年人朱在他于1119年写成的《萍州可谈》中记：“舟师识地理，夜则观星，昼则观日，阴晦则观指南针”。20多年后徐竞写的《宣和奉使高丽图经》记，“惟视星斗前迈，若晦冥则用指南浮针，以揆南北。”另外，吴自牧《梦粱录·江海船舰》中也记载了南宋时海船“风雨晦冥时，唯凭针盘而行，乃火长掌之，毫厘不敢误差，盖一舟人命所导也”。显然，指南针在海上已经开始为人的航海活动服务，而不再像在方士手里那样为看风水服务了。当然，当时的方士们也在为一种社会需要服务。只要地球的磁极不乱，罗盘指示的方位对在陆地上活动的人类来说，始终是一个方向坐标。
中国的航海家首先把指南针装到船上，标志着人类从此获得了在海洋中全天候、远距离航行的能力。宋代同中国在海路上贸易来往频繁的阿拉伯人约于1180年在泉州和广州把指南针装到了他们的船上，这些以航海和商业为业的经验丰富的阿拉伯人把航船一直驶到了近东地区。约在宋末元初，欧洲人从他们那里认识了指南针，并把它装到了船上。在整个古代，埃及人、腓尼基人、希腊人、罗马人的船只主要航行在地中海上，只有极少数的冒险家曾在非洲的西海岸出现过。但在有了指南针之后，近代欧洲航海家的一系列远航和地理大发现都成为可能的了。
中国人是磁的最早研究者。磁最初称为“慈”，是因为它吸铁时像慈母抱婴儿。沈括最先发现了磁偏角。在应用指南针和进行全球性的航海活动后，欧洲人开始了对磁的研究。很可惜，指南针故乡的中国人却没有最先进一步揭开磁石中的秘密。