办案能力显著，黑暗里识洋人
通过办理有关租界的案子，黄金荣认识到了洋人势力的强大，他明白投靠洋人能捞到更多的好处。洋人不仅强大还很富有，吃、穿、用尽是些新鲜玩意，只要能跟着洋人，呆在租界，谁也奈何不得。
前面已经提到，黄金荣因办案能力的不断提高，再加上精于敲诈勒索，巧取豪夺，时常给上司恭献财帛，越来越得到上司的赏识。后来，衙门里让他参与办理一些涉及租界的案子。
开始时，黄金荣跟着一位梁捕快，学办有关租界的案子，见识那里的世面，这位梁捕快与他的父亲黄炳泉生前有过交往，情谊甚好，办租界案子的时候，梁捕快总爱带着黄金荣一同前往，有意让他经受另一番磨练。
每次一去公共租界，他们必须脱下县衙捕快制服，换上便衣。原来，租界算是外国人的地盘，除了县衙的仪仗外，洋人不准任何中国军队、捕快、差役进入租界。如遇公文呈办之事，中国官方人员必须改穿便服进入。相反，一进租界，到处可以看到身着异样服装的外国军警，各国在此设有领事馆，均用自己的军队守卫。
洋人还建有一支万国商团军，由租界当局统一指挥，保护租界上的洋人利益。
租界上，外国银行、商行林立：有美国花旗银行，有英国汇丰银行，有德国德华银行，还有日、俄等国的银行，比在上海租界巡逻的外国警察。中国的钱庄、银楼，要气派百倍。
马路两旁的各种商店，都开在楼房下，上面的各色大招牌和下面的大玻璃橱窗，都十分显眼。大街上跑着人拉的“东洋车”和非常精致的马车。坐在车上，眼前不时会闪过外滩公园、保安司徒庙和跑马厅等热闹去处。
黄金荣每次跟梁捕快来到巡捕房，先要卑躬屈膝地呈上公文，然后在外等候很长的时间，直到有回文了才返回县衙。
一天，衙门里交给黄金荣一件华洋面粉纠纷案，让他独自一人去承办。
原来是南市山东门一家协盛兴商行的夏老板，状告英国克鲁森洋行犯有诈骗罪，要求赔偿损失。这位夏老板曾去克鲁森洋行定购了五万包面粉，没有样品，只注明的是“红狗牌”商标。夏老板与洋行签订了合同，并预付一半的定金。
数月后，五万包面粉运到，一开包验看，全是喂狗吃的红色粉末。夏老板当即与洋行交涉。洋行不仅不认账，反说合同上注明是狗食。夏老板实在无奈，便有告状之举。县衙接到状子，命黄金荣去传讯洋行大班克鲁森。
当时，中英双方定约，中方如到租界传讯、逮捕人犯，须经租界当局批准，由巡捕房发给“公堂牌票”方能行事。否则，属非法越界捕人，会引起中英两国纠纷。黄金荣不敢造次，只能按条约规定办理此案。
黄金荣拿了县衙签发的传票，来到租界英国领事馆办理传讯英国洋行大班克鲁森事宜。在大门口，他被印度籍巡捕阻拦，不准入内。只好将公文送上，等候领事馆的签章，以便再领取巡捕房的公堂牌票。
黄金荣在寒风中等了很长时间，始终没有看到什么签章和公堂牌票，只等到了领事馆传出的一句话，要他先回衙门去，巡捕房随后将公堂牌票专门送到县衙。黄金荣毫无办法，只得返回县衙等候。
一个月过去了，没有任何音讯。黄金荣心里非常着急，但又能怎么样呢？大权操在洋人手里。又过了一个月，租界那边来一了公文，不过，不是英国领事馆的签章和巡捕房的公堂牌票，而是租界会审公廨发下来的定期提审协盛兴商行夏老板的传票。
原因是克鲁森洋行反告夏老板违反合同，有意悔约，拒不提取五万包面粉，致使面粉变质成为红粉，要求协盛兴商行赔偿损失。黄金荣觉得此事有些荒唐，原告成了被告，传讯居然一下子变成送审了。
县衙见到洋人送来的传票，却不敢怠慢，立即将夏老板拘捕，命黄金荣与工部局派来的巡捕一道，押送至租界会审公廨。
原来，英国人在鸦片战争中打败了清政府后，于1842年与其签订了不平等的《南京条约》，取得了在华的“领事裁判权”。以后，又订立《洋径浜章程》，规定了具体实施细则，凡洋人在中国犯法或有民事纠纷，一律由英国领事审判裁决，中国方面不得自行审理。租界的审判机构，就是洋人一手操纵的会审公廨。
黄金荣同工部局巡捕，押着夏老板，再度进入租界，到达会审公廨，经过公廨大门、天井、台阶，将其送入公堂号室，交由英国巡捕看押、提审。黄金荣只能到天井去等候审判结果。
一看这种局面，就会猜到会审公廨的审判会有什么结果。会审公廨的法庭，是由英国领事操纵的。表面上看，它是英国领事和上海遣派员共同组成的，实际上，一切由洋人说了算，中国人在里面不过做个旁听罢了。这一性质，早已由“领事裁判权”决定了。既如此，它当然要维护英国人，乃至其他外国人的在华利益。
这克鲁森洋行是租界里的纳税人，每月要给公查局上交大笔税款。况且，他们的赢利额越大，按一定比例上交的税金也就越多。在华人与洋人纠纷中，损害一点中国人的利益，又算得了什么？洋人把清政府都打败了，还会把这几个中国人放在眼里吗？法庭肯定会保护克鲁森的。所谓的会审，很快就结束了。法庭宣判，协盛兴商行夏老板，要在规定期限内向克鲁森洋行付清全部剩余货款，同时交纳一倍的罚金，承担全部的诉讼费。
果真，克鲁森洋行胜诉。黄金荣听到会审会廨决后，回到县衙，向众人说起此事。梁捕快居然不认为然地大笑起来。
黄金荣照章办理此案，不敢有丝毫松懈，结果出人意料，有理的华人原告竟然成了被告，打输了官司。这件事在黄金荣心里引起了不小的震动。
通过办理有关租界的案子，黄会荣看到洋人势力的强大，认为投靠洋人能得到更多好处。洋人比清朝衙门厉害，这是明摆着的。有理的中国人会败诉，明明无理的洋人却会胜诉，不就说明清朝的无能，洋人的强大吗？
洋人不仅强大，还很富有。租界里的高楼大厦，大街上跑的华丽车马，洋人吃、穿、用的那些新鲜玩艺，哪一个不比中国的好？这租界是块风水宝地。只要跟着洋人，呆在里面，谁也奈何不得。清朝那些法律，在这里根本行不通。清朝的官吏、军队、捕快，更不敢在这里来为所欲为。特别是租界上的太岁爷，最大的主宰。谁可以跟他们比呢？他们说抓谁就抓谁，想怎样就怎样。县衙的捕快，见他们也要怕三分。看来，还是到租界巡捕房“做包打探有出息。”
于是黄金荣开始寻找机会，打算到租界去巡捕。
组建自己的流氓队伍
凭自己的蛮力和社会经历，黄金荣在众多的流氓地痞中渐渐打出了点名声，但他并不满足，连哄带吓，又打又摸，与丁顺华、程子卿结成了异姓兄弟，并趁机拉起了一支流氓队伍。
巡捕按照其职能区分有两类，一类是巡捕，其职级有巡士、巡长、巡官等；二是密探，也称作“包打听”，有探员、探目和探长等。当时的巡捕房的人员主要由法国人和中国人担任。中国巡捕简称“华捕”，是从1869年开始进入捕房的，警务处当年试用了十二名华捕。1886年，华人聂相宝担任了督察员，但不过一年，他便被手下的三名华捕指使流氓暗杀了。
1900年1月法租界再次扩张后，法国总领事白藻泰、公查局总董白尔从法国的殖民地安南招来二十九名安南巡捕，与公共租界的印度巡捕相对应。但因为这批安南巡捕语言不通，道路不熟，很难执行任务。因此，白藻泰、白尔又决定设置西探、华探各十三名，由他们构成法租界巡捕房的骨干。骨干下面要有走卒，法国殖民者采用“以华治华”的手段，张榜招募华捕一百二十名，维持法租界的治安，这些华捕又被叫作包打听。
清末时整个法租界巡捕房的职员计有总巡一人，副总巡一人，总稽查一人，侦探长一人，法捕六十人，安南巡捕二百人，华捕二百五十人，法探七人，华探五十人。因此，从数量上推论，警务处的密探是以中国人为主体的，这是黄金荣能够进入法租界并建立其势力的重要背景。
当然，黄金荣之所以被法租界当局吸收，更重要的是黄金荣不断扩大的黑社会势力。
在19世纪末20世纪初叶，流行着一个历史名词“郑家木桥小瘪三”，这是上海南部流氓地痞，无赖的统称。黄金荣与这些人接触较多，最终也成为混迹在南市和法租界、公共租界交界的典型流氓团伙“郑家木桥小瘪三”中的一员。
由于洋径浜是英、法租界（后来为公共租界和法租界）的交界处，桥南的法租界巡捕不能涉足桥北英租界，桥北的英租界巡捕也不能越界捕人，一河相隔，形同两国。
流氓地痞们充分利用这种制度的缺陷，以郑家木桥为其风水宝地，凡行人行经或者商船停靠此地，他们便一哄而上，于光天化日之下公开抢劫，大之于货箱皮包，小之于妇女所戴耳环发簪。这些歹徒往往在英租界得手后，只须逃人桥南的孔子路即告无事，而在法租界作案后，只要避人桥北的英租界亦然。洋径浜的有利地形，使得流氓歹徒越聚越多。他们结伙成帮，各占地盘，形成了近代上海黑社会的一个雏形。
黄金荣在众多的流氓地痞中，凭自己的蛮力和社会经历，拳打脚踢，在洋径浜两岸为非作歹，不断扩大自身的势力，不久与丁顺华、程子卿结成了流氓团伙。
那么黄金荣与丁、程两人是怎么认识，又结拜为兄弟的呢？
有一天黄金荣沿着老北门大街向北走着，前面就是洋径浜了。虽然这时天色尚早，但浜边已热闹异常，只见许多从浦东、南汇、奉贤等县出来的农民，有的挑着时鲜的菜蔬，有的摇着小木船，运来了豆萁柴、稻草柴，他们云集在这一带等着货物出售。黄金荣正走着，前面就是郑家木桥了，突然听到桥北有人高声呼唤，往前一看，只见一个身穿黑短褂的年轻人拎着一大篮刚上市的毛豆头匆忙过桥从自己身边擦过，来到了桥面，后面边喊边追的农民看他过了桥，就在桥堍下蹬着脚哭叫着。黄金荣知道又是一些小瘪三在敲诈寻衅了，他只当没看见，回身慢慢走近那个穿黑短衣的年轻人，乘其不备，一脚踢翻了他抢来的那篮毛豆，一厉声喝道：“跟我到县衙跑一趟！”那家伙抬头一看黄金荣凶神恶煞的样子，只得乖乖地跟着走，边走边说：
“大哥，帮帮忙，咱们一回生，二回熟，以后有啥用得着小弟的地方，定当效犬马之劳。”
“你叫什么名字？做啥生意？你们一起还有哪些人？”
“我叫丁顺华，南汇人，是摇柴船的。我还有个‘割头’兄弟，叫程子卿的，曾是镇四米店的学徒。我们手下还有十多个徒弟。”
“好吧，今天饶了你。碰到我，算是有缘分，你去把程子卿叫来，我们见见面。我在县衙供职，有什么事可找我。”
原来这丁顺华虽是南汇农民，但学习一手好拳术，在郑家木桥一带也是一霸；程子卿，绰号“黑皮子卿”，读过三年私塾从小扛米，腿力很强，鬼点子也多，丁、程勾结在一起，对来郑家木桥售货的老实农民，肆意敲诈，他们利用桥南、桥北是两个租界这点，常常在桥南欺侮了人就逃到桥北，在桥北欺侮了人就逃到桥南。黄金荣对这一切都清楚，但他今天却故意要管一下，他看中了这一带的流氓，他要把他们收在手里，加以掌握，发展自己的势力。
黄金荣跟着丁顺华来到郑家木桥桥堍下的一间板房内。室内陈设简陋，除了一张床，一张吃饭桌，几条板凳，墙角还有个炉子，这是丁顺华的栖身之地。一会儿，进来一个肩宽膀粗的小伙子，脸色黑黑的，也穿一身黑色短衫裤，黄金荣猜想来者就是程子卿。
三个人互相做了介绍。真是“不打不相识”，谈起来倒也气味相投，又加双方各有打算，很快，大家就像久别重逢的老朋友，大有相见恨晚的感觉。
“我有一个想法，不知黄老板是否有意？”丁顺华有些吞吞吐吐地说。
“有什么话只管说出来，不要见外！”黄金荣心里已猜着七八分，但嘴上却不肯说出来，他要让他们来求他。“我们今天遇到老板，也算三生有幸，如果老板愿意，我们最好能结拜为兄弟。”
不等黄金荣表态，程子卿高兴地一拍桌子，说声：“好主意！”
黄金荣正等着他们的请求，于是便顺水推舟地一口应允，接着程子卿出门去，一会儿就不知从哪儿弄了一只有大红鸡冠的公鸡来，丁顺华从床底下的纸箱内拿出一瓶白干，倒了三杯，把公鸡冠上的血滴入酒杯中，然后又把三人的中指戳破，把指上的血也滴入酒杯中，最后把血酒一饮而尽。经过这不伦不类的仪式之后，他们三人结成了把兄弟，按年龄排列，黄金荣为老大，丁顺华为老二，程子卿最末。
接着，丁、程的徒弟们也陆续聚齐，黄金荣看了一下，确有十多个人，他们排成二排，端端正正跪下向三位师父叩头行礼，接下来，有几个徒弟出去带回了一些鸡鸭鱼肉。大家动起手来杀、洗、烧，不一会儿，众人就围着桌子大吃大喝起来，也算作是一番庆贺吧。
黄金荣与丁顺华、程子卿结为兄弟后，便成为郑家木桥一带的无可争议的霸主。其收益的主要对象一是来此地贩运各种农产品的农民；二是洋径浜两岸的商家。前者要留下买路钱，后者要交纳“保护费”。除此之外，有时仍要做些“抛顶宫”（抢路人的高级呢帽子）、“剥猪猡”（抢剥路人衣服）、“剥田鸡”（抢小孩的绒线衣等）、“背娘舅”（用绳套住被害人头颈背至角落，待昏迷即抢剥去衣物）等勾当。
经常来此的商贾、游贩和农民们，为了免遭麻烦，主动向流氓中的最有势力者行贿送礼以寻求庇护。这些流氓中的强有力者往往成为团伙帮派中的头目，逐渐形成流氓中的小金字塔，小地盘服从大地盘，小头目服从大头目，产生出盘根错节的地方恶势力。黄金荣在丁顺华和程子卿左右手的支撑下，横行霸市，聚赌狎妓，成为洋泾浜两岸小有名气的黑社会头目。
对于租界来说，烟、赌、娼行业的兴旺，固然能给统治当局带来财源，但由此加剧膨胀的黑社会势力，却严重扰乱了其统治秩序。为了解决这个矛盾，租界当局相继采用“以毒攻毒”的办法，即吸收有势力的流氓充实警力，控制流氓团伙，以便把流氓的犯罪活动限制在不致危及外国殖民者的根本利益和基本统治秩序的范围内。
黄金荣便是在这二思路下“有幸”被法租界当局吸收，成为巡捕房的一员而发迹的。黄金荣后来说：“做包打听，成为我罪恶生活的开始。我被派到大自鸣钟巡捕房做事，那年我26岁。”
那么，在上海社会这样的背景之下，黄金荣是如何被招入法租界巡捕房，并不断得到法帝国主义的信任而步步高升的呢？
官升巡捕房，通吃黑白道
通过送礼行贿，黄金荣如愿以偿挤入了法租界巡捕房，凭借吹捧逢迎的看家本领，其在租界的身价和地位开始一路飚升。更绝的是，黄金荣有一手赚名骗财的高招：他用小恩小惠收买一批惯窃惯盗，一面布置一批小喽罗，约好某时在某地抢劫，一面叫另一些喽罗到巡捕房向他“告密”，他再向法国警探汇报，所谓刀切豆腐两面光，名利双收。
1892年，黄金荣26岁时，被法租界招入巡捕房，做了一名华捕。
据说，当时考试的地点是在总巡捕房。