万里长城依阴山、恒山、太行山、吕梁山之势，分为内、外两支，内长城建于恒山之阴，外长城建于阴山之阳。
山阴县境内的长城属内长城，是山西境内保存较为完整的一段。它东起新广武，西接代县分红岭，依恒山之阴连接着内长城东段18个重要隘口，全长5.3公里。城墙高6.6米，底部宽6.5米，顶部宽3.5米，底部用石灰岩、青石质条石砌筑，其它用砖拼筑而成。长城依山而筑，碗蜒盘桓于山岭之上，蔚为壮观。在城墙的结合部、转折处与制高点上，矗立着一座座致楼。
巍巍长城，敌楼对峙，烽台相望，与雁门关遥相呼应，形成一个完整的战略防御体系，至今仍不失当年古战场壁垒森严的气势。山阴县境内还有汉长城。它位于旧广武城南5公里处，沿恒山山脉东西横亘，长约10公里，整体用石块无层次垒起，现已成为残迹。