惠山寺，位于惠山秀嶂街（今惠山直街和横街交接处），始建于南北朝，距今已有一千五百余年。它的前身是南朝刘宋司徒右长史湛挺创立的“历山草堂”。当时他归隐在历山（惠山），与南朝的南平王刘烁以诗章酬和，齐江淹亦有继作，后人把他们的诗作列于壁间。刘宋景平元年（423年），把历山草堂改作僧舍，称“华山精舍”。元徽（474年——476年）间，沙门僧显，从京师（今南京）入吴地，在“华山精舍”休息过，这是最早而有名望的高僧。梁朝大同三年（537年），把华山精舍改为“慧山寺”。寺僧陈大德建大同殿，又名“法云禅院”。唐朝会昌（841年——846年）间，寺毁，唐朝大中（847年——859年）期间重建。北宋至道（995年——997年）间，赐额“普利院”。北宋靖康元年（1126年），赐给名相李纲作“功德院”。宋绍兴元年（1131年），把该院赐给信安郡王孟忠厚，祀昭慈圣宪孟太后，改额“旌忠荐福寺”，赐铜印一颗，上镌“旌忠荐福功德禅院之印”，元朝末年被毁，明朝洪武元年（1368年）僧普真重修。永乐五年（1407年）僧怀祖又修建。正统十年（1445年）被火烧毁。明朝洪武元年（1368年）僧普真重修。永乐五年（1407年）僧怀祖又修建。正统十年（1445年）被火烧毁。巡抚周忱，知县项伾重建。万历二十三年（1959年），有个唐裕的，挟0游春，竞放火炮，炮火飞上殿脊，殿被焚毁，次年吴申锡捐千金重建，他的儿子澄时又造了禅堂和不二法门。康熙于二十三年（1684年）南巡时，至惠山寺，在漪澜堂品泉。第二年，无锡人周宏词力加修治，题额为“圣敬式临”。后来，乾隆六次到惠山，在秦园和竹炉山房休息，写了不少诗词，题了不少匾联，还特地为“惠山寺”题额。清朝感丰至同治年间，李鸿章的淮湘军曾与太平军在江南一带激战，惠山的寺院毁于战火，仅存寺门匾额。后来，李鸿章在惠山寺的废墟上建立了“昭忠祠”，辛亥革命后改为“忠烈祠”。
由于惠山寺坐落在名胜之地，声誉早已随着天下第二泉的美名而满天下。它早在唐宋之时，就香火不绝，盛极一时。寺院范围包括整个愚公谷和寄畅园，僧舍就有一千零四十八间之多。古往今来，多少骚人墨客，以至帝王将相，在经过京杭大运河时，都要在惠山寺逗留。
解放后，市人民政府对惠山寺进行了全面整修，1954年重新设计改建了“古华山门”和二山门，非常壮严古朴。现在惠山寺还保留着古迹和建筑物有古华山门、唐宋石经幢、金刚殿、香花桥和日月池、金莲桥和金莲池、御碑亭、听松石床、古银杏树、大同殿、竹炉山房和云起楼等。