在训话中，黄金荣十分配合，只是实在是年纪大了，说话也不太清楚。黄金荣了解了共产党的意思后，立即表示会深刻忏悔，回去就开始写悔过书。回到钧培里后，黄金荣立即召集了几个亲信，商量如何写悔过书。经过两次的商议，由黄金荣口述，龚天健执笔，写了一份悔过书，但由于在这份悔过书中，黄金荣极少提到自己所犯下的罪恶，反而一味地提起自己所做的好事，并且将坏事都推到别人身上，因此，这份悔过书没有被市政府认可。
在这份悔过书中，黄金荣强调，他是孙中山先生革命事业的支持者，“孙中山先生在上海革命是我保护的，中山先生到北京去的时候，我保护送他上车，临走的时候，中山先生对我说，上海的革命同志要我保护，所以后来我认得了许多革命分子，像胡汉民与汪精卫他们就是在革命党打制造局的时候认识的。”在提到自己的罪恶时，黄金荣又将责任全部推到管理不善上：“到抗战胜利后，我也没有做过什么事情，但是听说我的门生，仍借我的名义在外面招摇，干不好的事。因为年纪很大，也顾不了这么多。不过这种事情，是怪我过去太卖情面，收了好多门生，现在想想这种不好的情形实在错误。”在文中，黄金荣还极力宣扬自己所作的好事；“八·一三日本人打来上海的时候，难民很多，米粮恐慌，虞洽卿办了一批洋米，由我出面代为救济、筹款。”这样一份悔过书写下来，压根就没提到自己造下的罪孽。
之后，在军管会首长的要求下，黄金荣又重新写了一份悔过书，而这份悔过书才算通过，并于1951年5月20日以《黄金荣自白书》为题目刊登在《文汇报》和《新闻报》头版上，还配以黄金荣的照片。
黄金荣自白书
｛本报讯｝居住在本市的黄金荣，昨日发表悔过书一件，全文如下：
我小时候，在私塾读书，十七岁到城隍庙姐夫开的裱画店里学生意，二十岁满师，在南门城内一家裱画店做生意，五年后考进前法租界巡捕房做包打听。那时候，觉得做裱画司务没出息，做包打听有出息。现在想来，做包打听，成为我罪恶生活的开始。
我被派到大自鸣钟巡捕房做事，那时我26岁，后升探长，到50岁时升督察长，60岁退休，这长长的34年，我是一直在执行法帝国主义的命令，成为法帝国主义的工具，来统治压迫人民。譬如说私卖烟土，开设赌台，危害了多少人民，而我不去设法阻止，反而从中取利，实在真不应该。
蒋介石是虞洽卿介绍给我认识的，国民党北伐军到了上海，有一天，张啸林来看我，他们发起了组织共进会，因为我是法租界巡捕房的督察长，叫我参加，我也就参加了。就此犯了一桩历史上的大罪恶，说起来，真有无限的悔恨！后来法租界的巡捕房头脑费沃利，命令禁止共进会在法租界活动，一方面张啸林要借共进会名义，发展他们的帮会势力，所以对我不满意，我因为职务上的关系，就和他们闹意见，从此与张啸林避不见面。不久，我就辞去法巡捕房职务，退休在漕河泾了。我在法巡捕房许多年，当然有些势力，有许多人拜我做先生，我也收了许多门徒，门徒又收门徒人多品杂，就产生了在社会上横行霸道，欺压善良的行为。我年纪大了，照顾不到，但无论如何，我是应该负放纵之责的，因而对于人民我是有罪的。
解放以后，我看到共产党样样都好，人民政府是真正为人民的政府。几十年来，帝国主义军阀官僚国民党反动派盘踞下的上海，整个变了样子。政府根绝了贪污，社会上也没有敲竹杠仗势欺人的事情。我今年84岁，已经20多年不问世事，但经过这个翻天覆地的变化，看到了伟大的人民力量，再检讨自己60岁以前的一切行动，感到非常痛苦。一方面我对于人民政府对我的宽大，表示深切的惭愧和感谢，一方面我愿向人民坦白悔过，恳切检讨我的历史错误，请求允许我立功赎罪。
我坚决拥护人民政府和共产党，对于政府的一切政策法令，我一定切实遵行。现在，正是严厉镇压反革命的时候，凡是我所知道的门徒，或和我有关系的人，过去曾经参加反革命活动或做过坏事的，都应当立即向政府自首坦白，痛切承认自己的错误，请求政府和人民饶怒；凡是我的门徒或和我有关系的人，发现你们亲友中有反革命分子要立即向政府检举，切勿构情。从今以后，我们应当站在人民政府一边，也就是人民一边，洗清个人历史上的污点，重新做人，各务正业，从事生产，不要再过以前游手好闲、拉台子、吃讲茶乃至鱼肉人民的罪恶生活。这样，政府可能不咎既往，给我们宽大，否则我们自绝于人民，与人民为敌，那受到最严厉的惩罚，是应该的了。
现在，幸蒙共产党宽大为怀，使我有重新做人的机会，在毛主席旗帜下学习革命思想，彻底铲除帝国主义的封建思想意识，誓再不被反动派利用，决心学习自我批评及自我检讨，从今后，愿做为人民服务的人。
最后，我敢向上海市人民政府和上海人民立誓，我因为年纪大了（今年84岁），有许多事，已经记忆不清，也许说得不适当，但我的懊悔渐愧与感激的心，是真诚的！是绝不虚假的。
公元一九五一年五月 黄金荣
这份自白书在报纸上公开刊登后，在上海市引起极大的反响。从晚清以来的近百年间，一直是统治阶级拉拢收买对象的帮会势力，第一次在人民政权和群众的强大压力下，由黄金荣这个最具有代表性的流氓大亨，向人民低头悔过了。自白书的发表对旧帮会的帮会残余势力是一个很好的震慑行为，事实上这一行为也确实极大地震慑了残余的帮会势力，很大程度上稳定了上海的社会秩序。尽管如此，短短一篇悔过书，还是平息不了上海市民对黄金荣的仇恨。
上海市民纷纷要求政府严惩黄金荣。“黄金荣可杀不可留”的口号响彻在上海街头，愤怒的人们甚至自发地围在黄家公馆附近，让黄金荣认罪，闹的黄金荣更不敢出门了。终于在市政府的调解下，气愤的人们才逐渐散去，而黄金荣在政府的示意下，拿起了扫帚，在大世界门口扫大街，并且拍下了照片，发表在报纸上，才稍微平缓了人们的情绪。
在自白书发表后的第九天，“小八股党”的干将、杀害汪寿华的刽子手叶悼山被押到法庭，其子叶麟根也到庭揭发其父逼死其母和舅父的罪行，最后，叶悼山被判处死刑。7月26日，黄金荣的弟子、汉奸卢英被枪毙。28日，叶悼山和黄金荣的另两个徒弟—迫害越剧名伶筱丹桂的恶霸张春帆与“小八股党”成员马祥生一起，被绑赴刑场，执行枪决。消息传到黄金荣的耳朵里，他更加恐慌了，闭门不出，整日里提心吊胆，害怕哪一天会被政府抓去，被枪毙，被砍头。甚至晚上也整夜无法入睡，这样沉重的心理压力，黄金荣这个80多岁的老人是承受不起的，于是，他越来越没有精神和体力，最终病倒了。黄金荣的害怕其实是十分多余的，因为实际上，政府部门并没有要法办黄金荣的意思。
病倒的黄金荣十分固执，他认定自己是活不久了，死活不肯去医院医治，在他的思想中，认为自己要死在家里，不要死在陌生的环境里。病越拖越严重，在黄金荣快要去世的前几天，他的精神突然好起来了。在仆人的搀扶下，甚至可以走到街口，在那几天里，黄金荣命人在街口放一把太师椅，每天他都要在这把椅子上做个半天，看着马路上车水马龙，谁也不知道他心里在想些什么。
1953年6月20日上午，黄金荣突然陷入昏迷，附近的永川医院应家属的请求，派出护士到黄公馆，给他注射了强心针，但已经迟了，当天下午，黄金荣就永远地闭上眼睛了。叱咤旧上海四五十年的大亨黄金荣就这样安静地离开了。
黄金荣死后，他的后事真是名副其实的简单了。关于这一点，从当地公安部门给上级做的报告中就可看出。报告称：“查黄金荣现年86岁，上海著名的大流氓，收有门徒万众，本区大世界、共舞台、荣金大世界皆是他的产业，当他于20日死时，大世界经理杭石君即报告分局云南南路派出所，并申请更换大世界负责人性命，以后便由黄金荣的得意门徒陈福康为主办理丧事，计有计有马筱峰、陈荣富、陈昌良（荣金大戏院经理）、沈茂贞、汤融、严兴林、毛政纪、顾德昌、钱福林、陆正崇、朱文伟、陈益亭、王世昌、庄海宁、杭石君、陈荣炳等17人前来销声匿迹地看不出动静地治丧。尸体于22日移往丽园殡仪馆人硷，当晚在钧培里1号黄金荣住宅中，备有九桌酒席，治丧过程中除上述得意门徒17人前来外，别无其他动静。”
黄金荣死后，没有任何公开媒体报道这件事，据说，有人发现在黄金荣去世的当天，在复兴公园后门的一块黑板上出现了五个大字：“黄金荣死了”。这恐怕是上海公众媒体上，唯一能看到关于黄金荣死讯的公告了。
黄金荣从一个小瘪三到上海三大亨之首，再到出现在大世界门口扫大街的悲惨境况，他的经历是由于他自身的作为而造成的，同样也是因为他生活的时代所造就的。