中国古代科学技术中的创造发明成百上千，但小小的一根指南针，却被列为古代四大发明之一，这是因为我国不但发明了指南针，而且率先将指南针应用于海船导航，由此开创了世界航海史的新纪元，加快了人类历史的进程。
在北宋时期，我国海船上开始使用指南针导航，那么最早用于航海中的指南针，是什么样的呢？
据沈括的《梦溪笔谈》记载，北宋时期共有四种装置的指南针。
碗唇法和指甲法是将磁针平放在瓷碗沿上和指甲上指南，由于磁针易滑落，这只限于实验而无实用价值。
缕悬法是用独根蚕丝将磁针悬挂于无风之处指南。这种方法虽然灵敏，但若有风或台面晃动，则磁针左右摆动无法指示方向。
水浮法是将磁针横穿灯心草，浮在水上指南。只要指南针碗中的水不是大幅度急剧振荡，磁针仍然可以辨识方向。因此这种针型实用性强，首先被选用在海船上。北宋文献资料记载，出使高丽的船队航行使用了指南针，“若晦冥，则用指南浮针，以揆南北”（徐兢《宣和奉使高丽图经》），证明最先用于航海的是水浮法指南针。
那么在指南针用于航海之前，祖先们是靠什么来导航呢？
长期以来，海船靠两种方法导航，一个叫做天文导航，就是白天看太阳，晚上看星星月亮，利用日月星辰来确定方位和航向。另一种方法是地文导航，是通过海岸上的特征或海岛等地面标志来辨别位置和方向。利用这些方法，我国的祖先勇敢而艰难地开辟了通往南亚、西亚等的远洋航线。
如果出现了阴天、刮风，而且离岸远了，既看不见日月星辰，又看不见地面标志了，这就麻烦很大了。有这样的例子，东晋末年的高僧法显，他到印度去取经，回来的时候，是从印度先坐船，可在路上碰到大风大浪连日阴雨，在船上根本分不出东西南北来了，只好顺水漂泊。这样的例子实际上是很多的，所以导航问题，始终是一个非常重要的问题，自从有了磁性指南工具导航以后，就发生了翻天覆地的变化了，以前全是靠老天爷吃饭，现在有了全天候的导航工具。
指南针是全天候的导航工具，弥补了天文导航和地文导航之不足，推进了航海事业，同时航海活动也进一步促进了指南针的发展。到了南宋时期，人们将水浮磁针与标示方位的部件组合成一件完整的仪器，这就是罗盘。它让人很容易联想到战国时期的司南，它是一个磁勺放在地盘中，地盘周边有显示方向的刻度。罗盘与其一脉相承。当时罗盘的磁针装置采用的是水浮磁针，所以又叫做水罗盘。这是相对于用一根竖立的尖状物支撑磁针的旱罗盘而言的。南宋时期，海船已使用水浮式罗盘导航。
这一项伟大技术的使用，极大地保护了当时航海人的生命与财产安全，这也使得宋代的海外贸易得到空前的发展。
有趣的是，虽然船工能够熟练使用罗盘，但他们依然觉得神秘，这枚小小的磁针似乎具有什么神力，无论何时何地，它始终准确地指向南方，加上指南针对船舶极为重要，所以船工们视它为神物。放置磁针的针房被视为禁地，闲杂人员不得入内，设有专职人员看守，特别在天空昏暗时日夜守候，不得有丝毫的误差。
但早期使用磁性指南工具导航，必须借助长期积累的天文导航、地文导航知识。当根据天文或地文的某一标志调整船只航向时，同时观察磁针的变动。
比如一条船按照一条传统的航线航行，当它每次航行到一个该调转船头的重要位置时，指南针也每次准确无误地指定了一个方向；当它行过一段旅程，再次调转航向时，指南针此时的指向，和以前走过这个地点时磁针的指向完全一致；一段行程之后，又一次调转船头时，规律再一次出现。人们就把航线中重要地点磁针的位置记载下来，这个点叫针位，一点一点逐渐连成了线，这航线就叫针路。
举一个通俗的例子就可以说明：如开一辆车，走了100米之后，应该向东南拐了，再走一定里程之后应该向正南走了，只不过就是把这叙述改成用指南针的术语，比如说走多远了，要走甲午针；或者再走多远，走丙申针，顺着这走过的航线，按照指南针的变动情况画出航线各点，这些点就叫针位，这条路线就叫针路。
经过长期的反复观察、记录和航海实践，逐渐形成了某一航线的用指南针导航的针路。有了针路针位航海图，海船才真正地脱离了天文与地文导航，罗盘成了独立的导航工具。
古老的天文导航知识、地文导航经验，特别是全天候的罗盘导航，是中国航海得以发展并长期领先于世界的最重要的科技手段。中国人第一个在世界上说，在茫茫大洋上，我知道我在哪里。
中国发明的磁性指南工具12世纪先后传入阿拉伯地区和欧洲国家。磁性指南工具的推广，成就了西方航海时代和世界地理大发现，并进而揭开了资本原始积累的序幕，促成了中西方大规模的文化、经济、技术的交流，开创了人类历史的新纪元。