于成龙到直隶上任的时候，直隶已经是灾荒遍地。他在开展各项新政的同时，仍把主要精力放在了赈灾大事上。清朝政府在赈灾方面，有一套严密的制度和程序，先由地方官调査灾荒程度，汇报到省里，省里再进行一番查实，然后上报朝廷，户部请旨复查，确定灾情后，最后才发布命令，根据灾情程度，部分减免或者全部蠲免赋税，缓征赋税，平价粜粮，灾情最严重时才无偿地发放粮米。这么做的目的，无非是防止地方各级官员虚报灾情，从中贪污，让朝廷蒙受损失，让百姓得不到实惠。但对饥肠辘辘的广大灾民来说，朝廷的办事节奏确实是太慢了。于成龙在这次赈灾活动中，敢作敢为，先赈后奏，绕开了原有的一些程序，康熙皇帝出于对于成龙的高度信任，不但不加责怪，反而大力支持。他们君臣同心同德，为直隶的灾区百姓，办了不少大好事。
康熙十九年十月，于成龙上疏声称，直隶宣府所属东西二城和怀安、蔚州二卫，有一千八百多顷耕地，被水冲沙压，无法耕种。前任巡抚金世德曾经请求蠲免赋税，朝廷没有批准，当地百姓要包赔历年所欠的赋税。自己上任后再次勘查，发现冲压情况更加严重，根本无法再次耕种。他说，虽然连年征战，国家财政困难，但这部分土地，每年征粮不过三千余石，征银不过一千余两，对朝廷来说是个小数目，对几千户贫民来说却是生死攸关的大事，请求朝廷豁免钱根。康熙呈芾仍然走一卜捏序，让尸邯派人夏査，确认无误后，下令从康熙二十年起豁免钱粮。
不久，于成龙又上报宣府所属东西二城和万全左右前卫、怀安、蔚州、保安、紫沟、西阳等处的夏灾与秋灾，朝廷下令缓征赋税，并平价出售官仓中积储的陈粮，救济百姓。这道命令刚开始实施，宣府通判陈天栋就向于成龙报告，宣府东西二城在最近二十多天内，已经饿死了数十名百姓，还有大量百姓处在饿死的边缘。于成龙接报后，认为情况紧急，如果按制度上报朝廷，批准下来得一个月左右，不定又要饿死多少百姓。他当机立断，派保定府同知何如玉火速赶往灾区，免费向无力购买粮食的贫民发放仓粮，每人给二斗，以解燃眉之急。同时向朝廷上疏说明情况：“伏思平粜粮石，止救稍能措朵之民，而不能救囊无一钱、僵卧待毙之民。即再疏请赈，候部议覆，奉旨允行，亦须一月。此一月之内，民之饥死者又不知凡几矣！”并说自己“仰体皇上惠爱元至意”，已经开始行动了。康熙皇帝接报后，和户部商议，同意了于成龙的应急办法，也没有追究于成龙违反制度的过失。
康熙二十年，康熙皇帝派户部员外郎叶纶到直隶，和于成龙一起赶往宣府赈济各地灾民，并下令“蠲免本年额征、积年带征钱粮及房税”，大规模救济宣府一带的灾民。到了七月，于成龙又向皇帝上疏，说真定府下属的独鹿、井陉、曲阳、平山、灵寿五县，发生了旱灾，二麦无收，要求将房税银两缓至来年征收，康熙皇帝和户部商议后也同意了。这里提到的“房税”，是康熙皇帝为了解决军饷问题，临时加征的物业税，天下百姓临街的门面房，每间每年征银二钱。
二十年九月，康熙皇帝巡行到直隶霸州等地，亲自察看民间的灾情，下诏说：“朕巡行近畿至霸州，见其田亩洼下，多遭水患。小民生计维艰，何以供给正赋？著察明酌量蠲免。”这些地方本来已经减免了部分赋税，于成龙见皇上有特旨，就上疏请求“破格全蠲”，皇上立即答应了。
在这两年的赈灾过程中，于成龙还号召各级官员和民间富户慷慨解囊，捐银捐米，拯救贫苦百姓的生命。于成龙康熙二十年初得到皇上一千两的赏银，本来是贴补家用，这时据说也全都捐出去了。只是，少数贪官污吏仍然手痒难耐，利用赈灾中饱私囊。青县知县赵履谦就顶风作案，不但违规收取了三千多两“火耗”银，又把一千两赈灾银装进了腰包。这还不算，他借口制作报灾文册，向民间摊派银两，把这些钱也贪污了。于成龙知情后，毫不客气，立即上疏参劾，将赵履谦革职问罪。
于成龙在务实赈灾的同时，也用自己的因果报应理论来思考直隶的灾情。他认为，天灾起于人祸，总是直隶各级官员德行不够，才导致水旱频仍。康熙十九年冬天，他自己严格禁绝酒肉，持斋三个月，诚心忏悔，祈祷来年的风调雨顺。这年岁末除夕，他满腹忧虑地写下了一首五言古诗：
今夕是何夕，明晨又一年。
三冬无再雪，万户有孤烟。
爆竹谁家响？盆花几处鲜？
早朝齐拜舞，谁上彗星篇？
灶冷畴为祀，井寒空自涟。
哀哉孑遗叹，忍待麦芊芊。
康熙二十年正月十五，于成龙带领一部分官员在保定举行了一次隆重的祈雨仪式，还为此写下一首五言绝句：皓月当空照，黄尘逐日飞。求沾惊蛰雨，肠断几千回。