上清宫俗称上宫，位于崂山东南部、太清宫西北。此宫原在山上，名崂山庙，据传汉代郑康成曾设帐授徒于此。宋初改建，太宗赐名上清，后被山洪冲毁。元大德年间，华山派道士-明重建于今址，历代均有增修。
宫观四周群山环抱，水木清华，环境绝幽。元代道士邱处机居此，亦留有题刻，其中《青玉案》词一阕、七绝诗10首最为著名。宫前半里许有邱处机衣冠冢，旧名邱祖坟。另有迎仙、朝真二桥，竹树蔽荫，松风水响，人行其间，别有佳趣。
1949年青岛解放前夕已成颓垣断墙，1956年青岛市人民政府拨款修缮。“文革”中，该宫塑像、石碑被砸，经卷、文物被毁，道士被遣送农村，房屋由崂山林场使用，1982年青岛市人民政府将上清宫列为市级文物保护单位。1991年3月，由青岛市道教协会筹集资金进行修缮，历时9个月竣工。1991年12月6日，重新开放。
上清宫为两进庭院，殿宇和房舍共28间，建筑面积500平方米，占地面积1500平方米。前殿祀“三清”、后殿祀“玉皇”，左右偏殿分祀“三官”（天官、地官、水官）和“七真”（马钰、谭处端、刘处玄、邱处机、王处一、郝大通、孙不二）。前院门内东西两侧各有宋植银杏一株，被称“仙树”。宫后院曾有一株白牡丹，干高丈余，枝繁叶茂；春天花开时，花如冰盘，有数百朵，洁白无瑕，芳香四溢，民国初年死亡。古人诗云：“门前排列锦为屏，墙内清阴绿满庭。百岁牡丹千岁杏，一花一木亦通灵。”
上清宫奉道教全真道华山派，为崂山许多道观中惟一的丛林庙。西侧一块圆丘形孤石，名“鳌山石”，上刻“鳌山上清宫”。
宫西北岩上刻有丘处机及明陈沂等人诗词与题字，岩下石间有一清泉，名曰“圣水泉”，其水甘冽澄明，为崂山一大名泉。宫前石桥名“朝真”，宫西石桥曰“迎仙”。为崂山著名道教宫观之一。