金山卫镇地处上海西南美丽的杭州湾北岸，金山区南部，东与山阳镇毗连，西与浙江省平湖市为界，南与上海石油化工股份有限公司相邻，北与张堰、廊下镇接壤。东西宽10.81公里，南北长9.88公里，总面积54.93平方公里。
公元1368年，朱元璋建立明朝，创设了卫所制度。鉴于金山沿海地区战略地位的重要，洪武十七年，明太祖朱元璋命信国公汤和与安庆侯仇成偕方鸣谦巡视浙江沿海，找一个地方建城。几经筹备，于洪武十九年（公元1386年）在滨海的盐业集镇小官镇筑城设卫，因与海中金山相望，故名金山卫，人们称小官镇为卫城。金山卫城刚开始建造时是个土城，永乐十五年（公元1417年），城墙改为砖结构，除月城楼外，有正门楼4座、水关门2座、角楼4座、箭楼48座。成化三年（公元1467年），又改为石砌结构，其坚固程度甚于一般的府县城，人们曾给它以“石头城（南京）下第一城”的美誉。当时全国有36卫，金山卫与威海卫、天津卫、镇海卫列为四大名卫。
金山卫城在建卫时，即设卫治、都指挥府、千户所于城中，东门外置演武场、演武厅。正统年间又建帅府、察院。为防倭寇袭击，瞻阳、凝霞、镇海、拱北四个城门楼日夜有门官领兵守卫，沿海备有巡哨海船40艘，大有“一夫当关，万夫莫开”之势。在明朝时，金山卫城辖境东西长310里，南北宽125里，西南起海宁卫乍浦千户所，东北至太仓卫吴淞千户所，南及大海，北达松江府，设置千户所7个，各领百户所10个，总兵力13357名（正德《金山卫志》载）。金山卫城内街巷绸密，人口众多。自成化十九年至正德十年的32年内五次人口统计，金山卫城平均每年在万户左右。可见当时的金山卫城已是一个军事重镇，繁荣之所。