宣德初年，于谦被任命为御史。奏对的时候，他声音洪亮，语言流畅，使皇帝很用心听。顾佐任都御使，对下属很严厉，只有对于谦客气，认为他的才能胜过自己。护从皇帝驻扎在乐安时，高煦出来投降，皇帝让于谦口头述说他的罪行。于谦义正词严，声色俱厉。高煦伏在地上求饶，自称罪该万死。皇帝很高兴。班师回朝北京，给于谦的赏赐和各大臣一样。
于谦外出巡按江西，昭雪了被冤枉的几百个囚犯。他上疏奏报陕西各处官校骚扰百姓，诏令派御史逮捕他们。皇帝知道于谦可以承担重任，当时刚要增设各部右侍郎为直接派驻省的巡抚，于是亲手写了于谦的名字交给吏部，越级提升为兵部右侍郎，巡抚河南、山西。于谦到任后，轻装骑马走遍了所管辖的地区，访问父老，考察当时各项应该兴办或者革新的事，并立即上疏提出。一年上疏几次，稍有水旱灾害，马上上报。
正统六年，于谦上疏说：“现在河南、山西各自储存了数百万谷物。请于每年三月，令各府州县上报缺粮的贫困户，把谷物分发给他们。先给菽秫，再给黍麦，再次给稻。等秋收后还给官府，而年老有病和贫穷无力的，则免予偿还。州县吏员任满应该提升时，储存预备粮达不到指标的，不准离任。并命令监察官员经常稽查视察。”下诏令照此执行。河南靠近黄河的地方，常因水涨冲缺堤岸。于谦令加厚防护堤，计里数设置亭长，负责督促修缮堤岸。又下令种树、打井，于是榆树夹道，路上没有干渴的行人。大同单独远在边塞之外，巡按山西的人难于前往，奏请另设御史管理。把镇守将领私自开垦的田全部收为官屯，用以资助边防经费。他的威望恩德遍布于各地，在太行山的盗贼都逃跑或隐藏起来。在职九年，升任左侍郎，领二品官的俸禄。
于谦主持兵部工作时，也先的势力正在扩张，而福建邓茂七、浙江叶宗留、广东黄萧养各自拥有部众和自封的封号，湖广、贵州、广西、瑶、侗、苗、僚到处蜂起作乱，前后的军队征集调遣，都是于谦独自安排。当战事匆忙急迫，瞬息万变的时候，于谦眼睛看着手指数着，随口讲述奏章，全都能按照机宜采取正确的方针方法。同事和下属接受命令，彼此看着都感到惊骇佩服。号令严明。虽然是勋臣老将稍有不守法度，立即请圣旨切实责备。一张小字条送到万里外，没有不谨慎小心执行的。他才思的畅通敏捷，考虑的周到仔细，一时没有人能比得上。他性情淳朴忠厚过人，忘身忧国。上皇虽然回来了，一点也不说自己的功劳。东宫改易以后，景帝命令凡是兼东宫太子宫属者支取两份俸禄。诸臣都表示推辞，只有于谦一再推辞。自己的生活很简单俭朴，所居住的房子仅仅能够遮挡风雨。皇帝赐给他西华门的府第，推辞说：“国家多难，臣子怎么敢自己安居。”坚决推辞，皇帝不准。于是把皇帝前所赏赐的玺书、袍服、银锭之类，全部封好写上说明放到那里，每年去看一看罢了。
皇帝很了解于谦，所议论奏请的事没有不听从的。皇帝曾经派使者到真定、河间采择野菜，去直沽制造鱼干，于谦一说便马上停止。任用一个人，一定悄悄访问于谦。于谦实事求是地回答，没有隐瞒，也不躲避嫌疑怨恨。因此那些不称职的人都怨恨他，而不像他那样被皇帝信用的，亦往往嫉妒他。当敌寇刚刚撤退时，都御史罗通立刻上奏章弹劾于谦登记的功劳薄不实在。御史顾（日翟）说于谦太专权，干预六部的大事奏请实行，好像他就是内阁一样。于谦根据祖制反驳他们，户部尚书金濂亦上疏为他争辩，但指责他的人还是不断收集他的材料。各御史多次用苛刻的文词上奏弹劾他，全靠景泰帝力排众议，加以任有，他才得以尽量实现自己的计划。
于谦的性格很刚强，遇到有不痛快的事，总是拍着胸脯感叹说：“这一腔热血，不知会洒在哪里！”他看不起那些懦怯无能的大臣、勋臣、皇亲国戚，因此憎恨他的人更多。又始终不赞成讲和，虽然上皇因此能够回来，但上皇并不满意。徐（王呈）因为提出迁都南京，受到于谦斥责。这时把名字改为有贞，比较得到提升进用，经常咬牙切齿地恨于谦。石亨本来因为违犯了军法被削职，是于谦请求皇帝宽恕了他，让他总理十营兵，但因为害怕于谦不敢放肆，也不喜欢于谦。德胜门一仗的胜利，石亨的功劳并不比于谦大，而得到世袭侯爵，内心有愧，于是上疏推荐于谦的儿子于冕。皇帝下诏让他到京师，于谦推辞，皇帝不准。于谦说：“国家多事的时候，臣子在道义上不应该顾及个人的恩德。而且石亨身为大将，没有听说他举荐一位隐士，提拔一个兵卒，以补益军队国家，而只是推荐了我的儿子，这能得到公众的认可吗？我对于军功，极力杜绝侥幸，绝对不敢用儿子来滥领功劳。”石亨更是又愧又恨。都督张辄因为征苗时不守律令，被于谦弹劾，和内侍曹吉祥等都一向恨于谦。
景泰八年正月壬午，石亨和曹吉祥、徐有贞迎接皇上恢复了帝位，宣谕朝臣以后，立即把于谦和大学士王文逮捕入狱。诬陷于谦等和黄竑制造不轨言论，要另立太子，又和太监王诚、舒良、张永、王勤等策划迎接册立襄王的儿子。石亨等拿定这个说法，唆使科道官上奏。都御史萧维祯审判定罪，坐以谋反，判处死刑。王文忍受不了这种诬陷，急于争辩，于谦笑着说：“这是石亨他们的意思罢了，分辩有什么用处？”奏疏上呈后，英宗还有些犹豫，说：“于谦实在是有功劳的。”徐有贞进言说：“不杀于谦，复辟这件事就成了出师无名。”皇帝的主意便拿定了。丙戊改年号为天顺，丁亥，把于谦在闹市处死并弃尸街头，抄了他的家，家人都被充军边疆。遂溪的教谕吾豫说于谦的罪应该灭族，于谦所推荐的各文武大臣都应该处死。刑部坚持原判这才停止了。千户白琦又请求写上他的罪行，刻板印刷在全国公布。一时要讨好皇帝争取宠幸的人，全都以于谦作为一个话柄。
于谦自从土木之变以后，发誓不和敌人共生存。经常住在值班的地方，不回家。一向有痰症病，景帝派太监兴安、舒良轮流前往探望。听说他的衣服、用具过于简单，下诏令宫中造了赐给他，所赐东西甚至连醋菜都有了。又亲自到万岁山，砍竹取汁赐给他。有人说皇帝太过宠爱于谦，兴安等说：“他日夜为国分忧，不问家产，如果他去了，让朝廷到那里还能找到这样的人？”到抄家的时候，家里没有多余的钱财，只有正屋关锁得严严实实。打开来看，都是皇上赐给的蟒袍、剑器。于谦死的那天，阴云密布，全国的人都认为他是冤枉的。一有个叫朵儿的指挥，本来出自曹吉祥的部下，他把酒泼在于谦死的地方，恸哭。曹吉祥发怒，鞭打他。第二天，他还是照样泼洒在地表示祭奠。都督同知陈逢被于谦的忠义感动，收敛了他的尸体。过了一年，送回去葬在杭州。陈逵，是六合人。曾被推举为有将领之才，是从李时勉门下举荐的。皇太后开始时不知道于谦的死，听说以后，叹息哀悼了几天。英宗也后悔了。
于谦已死，由石亨的党羽陈汝言任兵部尚书。不到一年，所干的坏事败露，贪赃累计巨万。皇帝召大臣进去看，变了脸色说：“于谦在景泰帝朝受重用，死时没有多余的钱财，陈汝言为什么会有这样多？”石亨低着头不能回答。不久边境有警，皇帝满面愁容。恭顺侯吴瑾在旁边侍候，进谏说：“如果于谦在，一定不会让敌人这样。”皇帝无言以对。这一年，徐有贞被石亨中伤，充军到金齿口。又过了几年，石亨亦被捕入狱，死于狱中；曹吉祥谋反，被灭族，于谦事情得以真相大白。
成化初年，将于冕赦免回来，他上疏申诉冤枉，得以恢复于谦的官职，赐祭，诰文里说：“当国家多难的时候，保卫社稷使没有危险，独自坚持公道，被权臣奸臣共同嫉妒。先帝在时已经知道他的冤，而朕实在怜惜他的忠诚。”这诰文在全国各地传颂。弘治二年，采纳了给事中孙需的意见，赠给于谦特进光禄大夫、柱国、太傅，谥号肃愍，赐在墓建祠堂，题为“旌功”，由地方有关部门年节拜祭。万历中，改谥为忠肃。杭州、河南、山西都是历代奉拜祭祀不止。
绝妙佳句
此一腔热血，意洒何地！