鸿沟是中国古代最早沟通黄河和淮河的人工运河。而它之所以名扬天下，是因为当年在这里楚汉相争，曾以鸿沟为界，相持八年，也就是“楚河汉界”。
公元前204年，项羽的楚军在荥阳包围了刘邦，刘邦向项羽求和。项羽听从谋士范增的计策，拒绝讲和，并决定乘胜追击。这时，相貌酷似刘邦的大将纪信挺身而出，换上刘邦的服装，冒充刘邦，出东门诈降，刘邦则趁机从西门出逃至成皋。项羽发现上当后即杀掉纪信，攻破成皋。刘邦带人从成皋逃出后，北渡黄河，得到韩信的援助，势力慢慢壮大起来。他接受以往教训，决定通过深沟高垒和项羽进行持久战，以消耗楚军的有生力量。
秋天，项羽率兵东进开封、商丘一带作战，留下部将曹咎把守成皋这个战略要地。汉军得知后，多次到城下叫阵谩骂，曹咎不堪羞辱，怒而率部出城，欲渡过汜水与汉军作战。当船至河中时被汉军突袭而败，曹咎后悔不己，自知无颜见项羽而自杀身亡。刘邦重新夺回成皋后，在广武屯兵，并取敖仓之粮作为军用。
楚汉双方经过多次拉锯战后，项羽在广武攻城，刘邦闭城不出。由于楚军粮食缺乏，不利久战，求胜心切的项羽便把刘邦的父亲抓来，要挟刘邦说：“你若不马上投降，我就把你父亲给煮了”。刘邦故作镇静地说：“当初我与你共同反秦，在怀王面前结为弟兄，我的父亲就是你的父亲。如果你要煮咱们的父亲，别忘了给我一碗肉汤”。项羽恼羞成怒要杀刘太公，后被手下劝住。这就是“分一杯羹”典故的由来。
此后不久，刘邦兵分两路，一路仍在荥阳同项羽相持，一路派大将韩信抄楚军后路，占领河北、山东一带。从此汉军有了更为巩固的后方，关中的萧何更是源源不断地运来兵员、粮饷。而此时项羽则补给困难，危机四伏，双方形势逐渐发生逆转，强大的楚军危机四伏，原本不敌楚军的汉军则日渐强大。
公元前202年秋，楚军粮尽，无奈之下与汉军讲和，双方约定以鸿沟为界，“中分天下”，鸿沟以西为汉，以东为楚。鸿沟西侧是刘邦的汉王城，东侧筑起项羽的霸王城。这就是历史上著名的“楚汉相争，鸿沟为界”的故事。
鸿沟在河南省荥阳北引黄河水，东经中牟北、开封北，而后折向南部，经过尉氏东、太康西、淮阳，分成两条支流：一条向南进入颍河，一条向东进入沙河，二条又分别汇入淮河，形成黄淮间的水运交通网。鸿沟的北面是滔滔的黄河，深不可测，西南面则是群山万壑，四周万木丛生，百兽哀鸣，地势险要，是东西向的咽喉要塞。
鸿沟是战国魏惠王十年（公元前360年）开始兴建的。魏国最早的势力范围在山西南部和陕西东部，随着势力的扩张，魏国在黄河南岸，今天的延津、原阳、开封一带获取了大片的土地。这样魏国的疆域就有了东西两部分，中间被韩国和赵国隔开。到了公元前339年，魏国又把都城从山西的夏县一带迁到今天的开封。既然疆域被分为东西两部分，那就要有一个连接的通道。于是，公元前360年，魏国投入大量人力，在荥阳县北的黄河南岸开凿水渠，将黄河水引入，一是作为运河，运输粮草物资，二是作为水利工程，灌溉土地。所以，鸿沟起到连接魏国疆土的重要作用。它的开凿，不仅使济河、淮河和黄河互相贯通，构成了鸿沟运河系统，还灌溉了大片农田，使这里成了农业丰产区。
公元前228年，秦军攻打魏国，久攻不下之际，秦军就用魏国人开凿的鸿沟把黄河水引入魏国都城开封，使开封不攻自破。所以，鸿沟既为魏国创造了荣耀，又给魏国带来灾难。
此后，历经秦、汉、魏晋南北朝，一直是黄淮间主要水运交通线路之一。如秦始皇就是靠着这条运河把江淮地区的粮食和贡物由江入淮，再经鸿沟进黄河，转路运到陕西咸阳的。《史记》记载，当时陈胜、吴广的农民起义军，曾抢先占领了鸿沟下游的古陈国（今河南太康），扼住了秦二世的粮道和南北水路通道，使秦朝官军失去了战略上的主动权，受到沉重打击。
隋代开通济渠，即唐宋时期的汴河，成为黄淮间的交通干道，相当于鸿沟位置的蔡河仍部分起着沟通黄淮的作用。元代建都北京，开京杭运河，水运干线东移，蔡河就堵塞了。