该塔最初为石塔，建于唐宝历元年（公元825年）。宋元丰年间改建9级铁塔，塔身每层皆8面4门，上铸飞天、立佛等。原塔在明代因海啸倾塌，仅遗存有最下四层。
1960年镇江文管会在修复铁塔时，在塔基三尺半处发现地宫。地宫内放置有一长方形大石函，作东西向，十面题有宋元丰元年（公元1078年）四月八日“润州甘露寺重瘗舍利塔记“石刻一方。同时发现的还有唐长庆四年（公元824年）“李德裕重瘗长干寺阿育舍利记“，大和三年（公元829年）“李德裕重瘗上元县禅众寺舍利记“石刻二方。从而可以认定甘露寺塔地宫中所出土的舍利，即是《法苑珠林》卷三十八中所列“东晋金陵长干塔“内的释迦佛舍利。这一重大发现，对江南地区佛教史的研究，具有十分重要的意义。
此次出土的佛舍利，其数量之多是前所未有的。据镇江市博物馆报告，总数共有772粒。唐代瘗下的计有二处：长干寺舍利小金棺内11粒，禅众寺舍利金棺内156粒。宋代瘗下的计有三处：银函内56粒，银元盒内177粒，木函内372粒，均是透明或半透明的颗粒，小如芥子。