公元1126年，金攻陷开封，北宋政权覆灭，东京为金人所占据，改开封为汴京。金太宗天会八年（1130年），金人立南宋叛臣刘豫为“大齐皇帝”，建都大名（今河北大名），统治豫陕之地。天会十年（1132年），刘豫又迁都开封，至傀儡政权被废，伪齐都开封共六年之久。这个时期的开封城相当荒凉，早已失去了昔日东京城巍峨壮观的风采。其间，仅在天会八年因“太宗将幸东京”，才由“（张）浩提点缮修大内”。但这次缮修只是在匆忙中对原来北宋皇宫稍加修饰而已。
完颜亮迁都汴京
金贞元元年（1153年），海陵王完颜亮为了加强对中原地区的统治，将国都从上京会宁府迁至中都燕京，并称汴京为南京开封府，作为金的陪都，供金主临时巡幸之用。这时，又开始在北宋皇宫废墟之上大规模地重新营建宫室。
雄心勃勃的完颜亮并不以迁都燕京为满足，为了便于进攻南宋以“光宅于中土”，摆脱“犹跼眷于一隅”的局面，他认为必须再迁都于“天下之都会，阴阳之正中”的开封，才能显示出金人君临万国、一统江山的赫赫气势。正如他对臣下所言“朕欲迁都于汴，遂以伐宋，使海内一统”。为此，完颜亮于贞元三年（1155年）派遣参知政事冯长宁经画原北宋皇宫宫殿，为其迁都开封做准备。可惜不久之后的一场大火，使刚刚筹划修葺的汴京宫室“烧延殆尽”。完颜亮为此大怒不已，重罚了有关责任人。正隆元年（1156年），完颜亮再以梁汉臣为提举大使主修汴京，重新营建汴京大内诸宫。正隆三年（1158年）十二月，又命“左丞相张浩、参知政事敬嗣晖营建南京宫室。明年，德基与御史中丞李筹、刑部侍郎萧中一俱为营造提点”。
完颜亮极为重视对南京宫室的营建，曾特派宦官梁珫来汴巡视工役，他对工程的要求极为苛刻，修造时稍有不如意之处即推毁重建。由于完颜亮不遗余力，此项工程金朝花费巨大，工程所需木材，系从河东、陕西一带经黄河运来。对此，《正隆事迹记》记载，海陵王“起天下军、民、工匠、民夫限五而役三，工匠限大而役两，统计二百万。运天下林木花石，营都于汴。将旧营宫室台榭，虽尺柱亦不存，片瓦亦不用，更而新之。至于丹楹刻桷，雕墙峻宇，壁泥以金，柱石以玉，华丽之极，不可胜计”。
雄健华美的汴京皇宫
南京宫室的全部营建工程历时六年之久，至正隆六年（1161年）二月完颜亮南迁汴京时完工。完颜亮所营建的汴京皇宫，史称金故宫或汴故宫。在《金史·地理志》中对金汴京皇宫有较详细的记载：
遵御路而北横街也。东曰太庙，西曰郊社，正北曰承天门，其门五，双阙前引，东曰登闻检院，西曰登闻鼓院。检院东曰左掖门，门南曰待漏院。鼓院西曰右掖门，门南曰都堂。直承天门北曰大庆门，门东曰日精门，又东曰左升平门。大庆门西曰月华门，又西曰右升平门。正殿曰大庆殿，前有龙墀，又南有丹墀，又南曰沙墀，东庑曰嘉福楼，西庑曰嘉瑞楼。大庆后曰德仪殿。殿东曰左升龙门，西曰右升龙门。正门曰隆德，内有隆德殿，有萧墙，有丹墀。隆德殿左曰东上閤门，右曰西上閤门，皆南向。鼓楼在东，钟楼在西。隆德之次曰仁安门、仁安殿，东则内侍局，又东曰近侍局，又东则严祗门，宫中则称曰撒合门，少南曰东楼，则授除楼也。西曰西楼。仁安之次曰纯和殿，正寝也。纯和西曰雪香亭，亭北则后妃位也，有楼，楼西曰琼香亭，亭西曰凉位，有楼，楼北少西曰玉清殿。纯和之次曰福宁殿，殿后曰苑门，内曰仁智殿，有二太湖石，左曰敷锡神运万岁峰，右曰玉京独秀太平岩，殿曰山庄，其西南曰翠微閤。苑门东曰仙韶院，院北曰翠峰，峰之洞曰大涤涌翠，东连长生殿，又东曰涌金殿，又东曰蓬莱殿。长生西曰浮玉殿，又西曰瀛洲殿。长生殿南曰阅武殿，又南曰内藏库。严祗门东曰尚食局，又东曰宣徽院，院北曰御药院，又北右藏库，东则左藏库。宣徽院东曰点检司，司北曰秘书监，又北曰学士院，又北曰谏院，又北曰武器署。点检司南曰仪鸾局，又南曰尚辇局。宣徽院南曰拱卫司，又南曰尚衣局。其南为繁禧门，又南曰安泰门，门与左升龙门相直。东则寿圣宫，两宫太后位也，本明俊殿，试进士之所。宫北曰徽音院，又北曰燕寿殿，殿垣后少西曰振肃卫司，东曰中卫尉司。仪鸾局东曰小东华门，更漏在焉。中卫尉司东曰祗肃门，少东南曰将军司。徽音、寿圣东曰太后苑，苑殿曰庆春，与燕寿殿并。小东华与正东华门对。东华门内正北尚厩局，其西北曰临武殿。左掖门北，尚食局南曰宫苑司。其西北尚酝局、汤药局。侍仪司少西曰符宝局、器物局，又西则撒合门也。嘉瑞楼西曰三庙，正殿曰德昌，东曰文昭，西曰光兴。德昌后，宣宗庙也。宫西门曰西华，与东华相直，北门曰安贞。
金汴京皇宫的建筑从艺术上看，糅合了宋辽建筑的特点。在建筑造型上与辽相似，斗栱雄大硕健，屋顶曲线刚劲有力，显示出北方少数民族特有的简朴浑厚之气势；而在细部的装饰上又与宋相近，显得细腻纤巧，璀错辉映，甚至过于繁琐堆砌。这种雄健而柔美，敦厚而华丽的建筑风格正反映了北方少数民族进入黄河流域以后，一方面迅速地接受了中原地区先进文化的影响，另一方面又为这一地区带来了一股清新的生气，两者交汇碰撞，使这种民族大融合的趋势为源远流长的中华文明更增添了绚丽多姿的色彩。
较之北宋东京皇宫，金汴京皇宫的变化除了如《金史·地理志》所记的其宫城门、大殿门和主要殿宇名称的变化之外，更为重要的是其皇宫范围有所扩大、皇宫格局有所变化。北宋东京皇宫由于是在五代遗留的宫阙旧址上扩建而成的，受到地域和周围民居的限制，所以只能将皇城和宫城合二为一，把部分中央官署设在皇宫内前部，而把皇帝的寝宫和后妃宫及一些宫廷设施设在皇宫后部，中间仅以一条东西横街相隔。金汴京皇宫在五代、北宋皇宫“周回五里”的基础上，经过张浩等人的新建和扩筑，已经达到了方圆“九里三十步”的规模，并在原北宋皇宫之外又新筑一道城作为其皇城，而将原北宋皇城作为其宫城，使皇城与宫城正式分离，从而使其宫室制度更趋于完善和合理。金汴京皇宫的格局，在营建过程中受到了金中都皇宫格局的影响，同时对后代的元、明北京城的皇宫格局也产生了很大的影响。
汴京的衰落
金迁都汴京不久，后方发生政变，完颜亮为部将所杀。之后的金世宗又将国都迁回到了燕京，降汴京为陪都。
金代后期，北方的蒙古族逐渐强大起来。金贞祐二年（1214年），金宣宗为蒙军所迫，决定再次迁都汴京，他先派“尚书右丞胥鼎前路排顿，及修南京宫阙”，随后于同年“秋七月，车驾至南京”。此次在汴京定都共二十年，金宣宗对汴京城的建设主要是对残存的宋内城进行了修复，而对汴京皇宫，因为定都时间较短且时局动荡，故未来得及进行较大规模的营缮。
金天兴元年（1232年），蒙古大军挺进汴京。次年正月，汴京城陷落，金皇宫遭到了较大的破坏。到了元末，金皇宫已逐渐残破荒废，元代诗人杜瑛曾作《吊金宫》一诗，描写了宋、金故宫在屡遭兵劫及水灾之后的一派荒凉景象：“月上觚棱椒壁湿，饥鸟啄碎琅轩石。劫灰飞尽海扬尘，废殿荒台土花碧。洛阳书生汴梁客，一夜春风头欲白。樽中赖有酒如泉，醉倚寒窗破愁寂。”
金元之后，黄河改道，逼近开封，频繁的黄河水患多次淹没开封城区，泥沙层层沉积，致使金汴京皇宫连同开封历史上的其他古代城址一起被深埋于地下。
元至元二十八年（1291年），设河南江北行中书省于开封。明洪武十一年（1378年）朱元璋封第五子朱棣为周王驻藩开封。明代，开封经济繁荣，号称“八省通衢”、。公元1642年，明军扒开黄河，开“势若两京”李自成攻打开封，封城再遭破坏，城中三十七万人，仅剩三万余人。清代设开封府，清末开封辟为商埠，民族资本工业兴起，先后创办了机械、兵器、面粉、火柴、烟草等工厂。民国期间，开封为河南省会。