佘山天主堂座落在松江西佘山上。佘山又名西霞山，1863年法国耶酥会传教士在佘山南坡买了一块山地，建造平房五间，并辟出一间自用小堂，在山顶建六角亭供圣母像。
1870年6月，天津发生群众火焚教堂事件，消息传到上海，传教士惊恐万状，耶酥会会长谷振声从徐家汇天主堂赶到佘山，跪在六角亭的圣母像前祈祷：如能平安，就在山上建一大堂。天津教案事后没有波及上海，传教士说是圣母保佑，接着发起“还愿”造堂募捐活动，虔诚的教徒们纷纷捐款。1870年1月筹款完成后，建堂工程由耶酥会辅理修士马历耀建筑师负责，历经两年，1873年4月15日落成。
大堂建成后，1894年耶酥会又在半山上建了个中堂，在堂前建造圣母亭、圣心亭、若瑟亭和登山路上14个苦路亭等。每年5月24日为“圣母进教之佑瞻礼日”，佘山天主堂奉瞻礼为主保，教徒们每年5月来到佘山朝圣，高潮时达数千人，逐渐佘山成了方圆几百里教徒的朝圣地。
20世纪20年代，上海周边地区教徒达80万人，原来的大堂陈旧狭小，耶酥会决定拆除旧堂建造新堂。1925年4月24日举行新堂奠基仪式，当时各营造厂都不愿承接在近百米高处的工程，最后由葡萄牙籍神甫叶肇昌建筑师设计并负责施工。叶肇昌对工程管理十分严格，桩基一直打到岩石上，施工时不符合规定即要返工；砖砌定质定量，不符合要求必须推倒重砌。整个工程历时十年，至1935年11月方告大成。
新教堂东西长56米，南北宽25米，最宽处35米，高17米，钟楼高38米。由于建造在山顶上，工程十分艰巨，所用木料从上海、石料从福建用船运送到佘山脚下，靠人抬肩扛运上山顶。建筑结构以石为主，外砌红砖，屋盖为钢筋混凝土拱顶。建筑平面呈拉丁十字形，正门设在西南面，进入门厅直通大堂。大堂尽端设大祭台，背后为半圆形龛，祭台用镶金嵌玉的大理石雕成，祭台与座堂间用低矮的汉白玉栏杆分隔，座堂用花瓷砖铺地，设有3000个座位。教堂顶屋脊铺以碧绿色琉璃瓦，立面四周红砖墙上镶嵌彩色玻璃窗，窗樘均为尖拱形，檐部的处理用半圆圈。教堂西南南角建有方形钟楼，上部有16根柱子支撑的橄榄形穹顶，顶上有高4.8米、重1800千克的铜质“圣母抱小耶酥像”。大堂集多种建筑风格于一体，其拱形、甬道为罗马式，廊柱为希腊式，尖顶为哥特式，钟楼为以色列式，东端小圆顶为西班牙式，清水壁和斗角地砖为中国民族式，硫璃瓦则为中国宫廷式。整幢建筑有“四无”之称，即无钉无木无钢无梁，堪称不对称的建筑典范。
佘山天主堂华丽典雅，是世界著名的教堂之一。1942年9月12日，罗马教皇“赦封”佘山天主堂为“圣殿”。1947年5月18日举行的“圣母抱小耶酥像”的加冕典礼与会的教徒达1万余人。1966年“文革”中“圣母抱小耶酥像”被作为“四旧”被毁。“文革”结束后恢复了宗教活动，1982年教堂开始大修直至1984年结束，这座闻名中外的教堂又恢复了原貌，1985年举行复祝圣典礼。
佘山天主堂历经半个多世纪的风侵雨蚀、地震雷击和其他灾害的考验，至今一如初建时那样巍然屹立于佘山之颠。