宋神宗熙宁十年（1077），苏轼由密州知州改为徐州知州，四月赴任。同年七月十七日，黄河于澶渊之曹村决口，“东流入钜野（今山东省济宁市附近），北溢于济（济水），南溢于泗（泗水）”（苏辙《黄楼赋序》）。八月二十一日，大水抵达徐州城下。“余兄子瞻，适为彭城守。水未至，使民具（准备）畚（běn，簸箕）锸（chā，铁锹），畜土石，秋芻茭（chújiāo，干草，饲料），完窒隙穴（堵塞堤上洞隙），以为水备，故水至而民不恐。自戊戌至九月戊申，水及城下，有二丈八尺，塞东、西、北门，水皆自城际山，雨昼夜不止。”（苏辙《黄楼赋序》）当时情况十分危急，徐州城随时有危险，此时一些富人争相逃出城外，躲避洪水。苏轼说：“富民若出，民心动摇，吾谁与守？吾在是，水决不能败城。”阻止了富人出逃，从而安定了民心。苏轼又亲自到武卫营，动员官兵一起抗洪抢险。武卫营的卒长也被苏轼为民着想、身先士卒的精神所感动，大声呼喊说：“太守犹不避涂潦（泥水），吾侪（chái，辈）小人效命之秋也。”遂拿起工具率领士兵光着脚，穿短衣去修筑东南长堤。堤成，大水冲到堤下，终不能入城，城里百姓这才安定下来。但因雨不停，河水暴涨，在此危急关头，苏轼“庐（居住）于城上，过家不入，使官吏分堵而守。”从而不仅筑起了护城大堤，而且又加固了城墙。另据苏辙《黄楼赋序》云：“方水之淫也，汗漫千余里，漂庐舍，败冢墓，老弱蔽川而下，壮者狂走，无所得食，槁死于丘陵林木之上。子瞻使习水者浮舟楫，载糗（qǐu）铒（米麦制成的干粮）以济之，得脱者无数。”
经过两个多月的艰苦奋战，终于战胜了这场特大洪水，保住了全城百姓的生命财产。大水退后，朝廷只派人堵塞了澶渊曹村黄河的决口，未能顾及徐州。苏轼认为“不可使徐人重被其患”，于是请求增筑徐州城。观察水势，用木头加固；修成木岸，以防洪水再来。木岸完成，朝廷降诏褒奖，徐州百姓和苏轼更加亲近，并永远思念他。
抗洪取得最后胜利，于是苏轼就在苏州城东门修建了一座大楼，以黄土涂饰，取其“土实胜水”之意，称为黄楼。此楼为徐州人合力所建。楼成，苏辙过徐州，“将登黄楼，览观山川，吊水之遗迹，乃作黄楼之赋。”苏辙的《黄楼赋并序》以及其所撰《东坡先生墓志铭》中，对苏轼徐州抗洪事均有详细叙述。
作为一位封建官吏，面对无情的自然灾害，苏轼首先想到的是百姓的安危：洪水来之前，早作准备；洪水到来时，安定民心；情势危急时，他身先士卒，坚持在大堤上抗洪数十天，过家门而不入；洪水过后，又加强堤防，以防后患。历史上有大禹治水，三过家门而不入，世代传为佳话。但当我们提到大禹时，也会自然而然地想到苏轼。