纵观孙武一生，伍子胥的影响可算最大的。正是在伍子胥冒死举荐下，孙武才踏上了吴国的政治舞台。从二人隐居相识，到携手破楚入郢，达到人生巅峰，在这段孙武人生中最为光彩夺目的时光里，伍子胥的身影无处不在。但与孙武的神秘不同，历代史籍中，有关伍子胥的记载却甚为详细，在民间，也流传着很多有关他的传说。虽然二人有着共同的经历，但是，命运之神却给二人安排了两种截然不同人生归宿，至今仍令后人唏嘘不已。
关于伍子胥离楚避难，《史记》中有这样的记载：伍子胥父伍奢为楚国大夫，平王在位时为太傅，辅太子建。平王听信费无忌谗言夺儿妻占为己有。不久，无忌又没日没夜地在平王面前说太子建的坏话：“太子因为秦女的原因，不会没有怨恨情绪，希望大王自己稍微防备着点。自从太子驻守城父以后，统率着军队，对外和诸侯交往，将要进入都城作乱了。”楚平王就把他的太傅伍奢召回来审问。伍奢知道无忌在平王面前说了太子的坏话，因此说：“大王怎么能仅仅凭搬弄是非的小人之臣的坏话就疏远骨肉至亲呢？”无忌说：“大王现在不制止，他们的阴谋就要得逞，大王将要被逮捕了！”于是平王发怒，把伍奢囚禁起来，同时命令城父司马奋扬去杀太子建。但还没走到，奋扬派人提前告诉太子：“太子赶快离开，要不然，将被杀死。”于是太子建逃到宋国。
这个时候，无忌义对平王说：“伍奢有两个儿子，都很贤能，不杀掉他们，将成为楚国的祸害。可以用他父亲作人质，把他们召来，不这样将成为楚国的后患。”平王就派使臣对伍奢说：“能把你两个儿子叫来，就能活命，不叫来，就处死。”伍奢说：“伍尚为人宽厚仁慈，叫他，一定能来；伍员为人桀骜不驯，忍辱负重，能成就大事，他知道来了一块被擒，势必不来。”平王不听，派人召伍奢两个儿子，说：“来，我使你父亲活命；不来，现在就杀死伍奢。”伍尚打算前往，伍员说：“楚王召我们兄弟，并不打算让父亲活命，担心我们逃跑，产生后患，所以，用父亲作人质，欺骗我们。我们一到，就要和父亲一起处死。对父亲的死有什么好处呢？我们不如逃到别的国家去，借助他国的力量洗雪父亲的耻辱。一起去死，没有意义呀。”伍尚说：“我知道去了最后也不能保全父亲的性命。可是只恨父亲召我们是为了求生，要不去，以后又不能洗雪耻辱，终会被天下人耻笑。你可以逃走，你能报杀父之仇，我将要舍身去死。”
伍尚接受逮捕后，使臣又要逮捕伍子胥，伍子胥拉满了弓，箭对准使者，使者不敢上前，伍子胥就逃跑了。他听说太子建在宋国，就前去追随他。伍奢听说子胥逃跑了，说：“楚国君臣将要苦于战火了。”伍尚来到楚都后，楚平王就把伍尚和伍奢一块杀害了。
子胥到宋国与太子建会合。恰逢宋国内乱，于是两人逃奔到了郑国，接着又去了晋国，晋国却要太子建去郑国做内应，帮助灭郑。事情败露太子建被杀。于是伍子胥逃奔到了吴国。
在伍子胥九死一生的逃难过程中，产生了两个流传千古的民间传说。
相传伍子胥因宋国有乱投奔吴国时，路过陈国，东行数日，便到昭关（今安徽省含山县北）。此时楚平王早就下令悬赏捉拿伍子胥，叫人画了伍子胥的像，挂在楚国各地的城门口，嘱咐各地官吏盘查。昭关在两山对峙之间，前面便是大江，形势险要，并有重兵把守，过关真是难于上青天。伍子胥一连几夜愁得睡不着觉，连头发也愁白了。幸亏遇到扁鹊弟子东皋公，东皋公同情伍子胥，把他接到自己家里。东皋公有个朋友，模样有点像伍子胥。东皋公让他冒充伍子胥过关。守关的逮住了这个假伍子胥，而那个真伍子胥因为头发全白，面貌变了，守关的认不出来，就被他混出关去。
另一个民间传说发生在有富春江畔。一日，伍子胥来到富春江边，见江中有渔船，船上有一渔翁，伍子胥便招呼他过来，让他将自己摆渡过去，渔翁边歌边渡，到了对岸，见子胥面有饥色，便让他藏在芦苇丛中，回家为其取食。子胥吃完麦饭、鲍鱼羹，喝足酒后，欲将自己所佩的白金剑送给渔翁以作报答，老翁拒不接受，问其尊姓大名，也不回答。子胥万分感慨，只好辞行，未出几步，忽听江中有声，回头一看，小船已翻，渔翁投江自尽。如今，在七里泷岸边有一石碑，上刻“子胥渡”三个醒目的大字。后人还把他当时住过的村称为胥村，把大畈溪称为胥溪，汇入富春江处称为胥口。此外，这一带还有胥源、胥岭、胥岭洞等与伍子胥有关的遗迹。
伍子胥在桐庐境内的一座山上，得知自己已到吴国，脱离险境时，不禁拔剑高歌：
“剑光灿灿兮生清风，仰天长歌兮震长空，员兮员兮脱樊笼！”边歌边舞，歌声响彻云霄。后人把这座山称为歌舞岭。
在历经艰辛到达吴国后，伍子胥依靠在市中吹箫卖艺以解决温饱。有一天，伍子胥被善于相面的人发现，带到了吴王僚跟前。吴王僚看他身材伟岸，眉间英气逼人，和他连说了三天的话，没有一句重复的，不由得喜欢起来。于是子胥讲述了自己的深仇大恨，吴王僚便决定兴兵为他报仇。公子光知道了，担心伍子胥阻碍他夺权，就进谗道：“伍子胥要你伐楚，是为了报私仇，对吴国无益，不要用他。”伍子胥隐隐感觉到了公子光有异志，就请辞于吴王僚，投靠到了公子光帐下，从此如鱼得水。
此后，伍子胥假装种田隐居，暗中为公子光物色猛士刺杀王僚。他发现了专诸，他遇到专诸的时候，专诸正要和人打架，双目圆睁，发髯如冲，有万夫不当之勇，可是他老婆一叫他，他就马上变得和颜悦色，回家了。伍子胥便问他这是为什么，专诸说：“既然要屈就在一人之下，那么就必须凌然于万人之上。”伍子胥于是暗地里结交他，并把他推荐给公子光。
公子光把自己要刺杀王僚的原委向专诸和盘托出，专诸感于知遇，愿为其卖命，于是说：“要杀一个人，必须要投其所好。王僚喜欢什么呢？”。“喜欢吃鱼。”于是专诸去太湖专心学了三个月烹鱼之术，终于有成。就等待时机，随时可以为公子光效力了。
王僚十二年冬，前515年，楚平王死，伍子胥叹道：“仇人虽然死了，楚国还在，一定要破灭楚国才能泄恨。”第二年春，吴军趁楚国新丧伐楚，派公子掩余和烛庸围楚，却被楚军断了后路，不得回国。公子光看到了机会，伍子胥也进谏认为时机来了，专诸附议。公子光于是请王僚过府尝鱼，王僚实在挡不住诱惑，带足了侍卫，穿着厚甲去了公子光府第。公子光在室中埋伏甲士，宴会到一半，借口脚疼离席。这时专诸赤着身子，捧着鱼膝行到王僚面前，掰开鱼就抽出里面的鱼肠剑向王僚刺去，锋利的鱼肠剑就这样送走了嗜鱼如命的王僚，侍卫瞬时把专诸剁为肉泥。
吴王不错过每一个有才能的人。首先当然是伍子胥。阖闾任命子胥为“行人”，并且同子胥一起参谋国政，子胥想到自己一个丧家负仇之人只身来到吴国，竟然受到如此礼遇，垂泪顿首，愿为阖闾而肝脑涂地。阖闾问策道：“我们吴国地处偏僻，在这个东南之隅，变通不便，天气阴湿，又常常受到江海的侵害，该怎么办呢？”子胥说：“治理国家首先要安君理民。具体该怎么办呢？要想治理臣民，成就霸王之业，就必须先设立城郭，做好防御工作，充实粮仓和武器库。”
阖闾听完这番话，就说修筑城郭是否可以应以天数来威制邻国呢。答案是可以的。史载伍子胥相土尝水，象天法地，选定了城址，并着手筑造了阖闾大城，就是今天的苏州城，并成为中国历史上唯一一座两千五百多年来城址几乎没有变动的城池。当时的阖闾大城，周长四十七里，这即使放到明清也是一座大城，何况于春秋之时呢。这样的气派，加上象天八风的八个陆门，法地八聪的八个水门，真正为这个发展中的国家树立起了标志。
从城门的命名上就可以看出阖闾的雄心。西墙的北门叫闾门，是取阖闾天地之气的意思，同时又叫破楚门，因为楚国在吴国的西北。越国在东南，按照八卦方位，吴在辰位，属龙，于是在西南门取名为蟠门，而越在巳位，属蛇，因而东南门名为蛇门，想要借此来压制越国。北面的门分别叫做平门和齐门，自然是要平鲁威齐了。
伍子胥的命运，在他同夫差出现意见分歧后，悄悄地发生了改变。
在吴、越议和以后五年，吴王夫差听说齐景公死了，大臣们争权夺利，新立的国君软弱，就出动军队向北攻打齐国。伍子胥规劝说：“勾践一餐没有两味荤菜，哀悼死去的、慰问有病的，将打算有所作为。这个人不死，一定是吴国的祸患。现在吴国有越国在身边，就像得了心腹疾病。大王不先铲除越国却一心致力攻打齐国，不是很荒谬的吗？”吴王不听伍子胥的规劝，攻打齐国，在艾陵把齐国军队打得大败，慑服了邹国和鲁国的国君而回国，从此，就越来越少地听从伍子胥的计谋了。
此后四年，吴王将要北上攻打齐国，越王勾践采用子贡的计谋，就带领着他的人马帮助吴国作战，把贵重的宝物敬献给太宰噽。太宰噽多次接受了越国的贿赂，就越发喜欢并信任越国，没日没夜地在吴王面前替越国说好话。吴王总是相信和采纳太宰噽的计谋。伍子胥规劝吴王说：“越国，是心腹大患，现在相信那虚饰浮夸狡诈欺骗之词，贪图齐国。攻克齐国，好比占领了一块石田，丝毫没有用处。况且《盘庚之诰》上说：有破坏礼法，不恭王命的就要彻底割除灭绝他们，使他们不能够传宗接代，不要让他们在这个城邑里把百姓影响坏了。”这就是商朝兴盛的原因。希望大王放弃齐国，先攻打越国；如不这样，今后悔恨也来不及了，在暂时的胜利面前，夫差不禁炫耀起来：我先王的功德明达于天，当年为了帮你报仇，西破强楚，就算你有点功劳。那么今天你已经老眼昏花，为什么不肯安分一点，却妖言惑众，老是说吴国将亡，扰乱我的霸业，甚至以卜筮来动摇我的军心。好在上天垂恩，齐师降服，寡人不敢自居其功，全仰仗先王和神灵的护佑。只是不知道你出了什么力呢？
伍子胥听后大怒：“想当年先王之时，对臣子以礼相待，对谋臣的建议必定虚心采纳，所以能够破疑决计，不陷入大的灾难之中。如今大王离弃我，养着外患而一点都不感到忧虑，这哪里是什么霸王之业，只是独夫之谋啊。所谓天所未弃，不过是先给我们一点甜头，后面却有着空前的灾难在等待我们。大王如果现在能够醒悟，那么吴国可以世世相传，否则吴国的气数就快到了。我伍员之所以不在家安享晚年，就是不忍心见到大王您亡国啊。”
吴王不听，大宴群臣，听着一片歌功颂德之声，夫差不禁飘飘然起来。伍子胥却仿佛从这一片升平中听出了越国的喊杀和吴国百姓的哀泣，跪地垂涕道：“上天啊上天，为何让我们到了这个境地？忠信之臣都不开口了，谄谀小人却营营君侧。政道败坏了，阿谀奉承之言却层出不穷。那些邪说妄辞都被当作真理。吴国快要灭亡了阿，宗庙将被夷为平地，社稷要无人祭祀，城郭会变成废墟，宫殿也会长满荆棘，你们一个个怎么都看不到啊？”
沉浸在胜利中的吴国君臣听到这样的话如何能不恼羞成怒：“你在干什么，诅咒我们吗？我一直因为你是先王的功臣，不忍心加罚于你，你却得寸进尺。你回去自己看怎么办吧，我不想再听到你的话了。”伍子胥说：“我不忠不信，不配做先王的臣子了。我不该爱惜自己的性命，只是忧心吴国的破亡而已。从前商纣杀比干，今天大王要杀我，先想想桀纣的下场吧。”
夫差越想越气愤，于是让人赐给伍子胥属镂之剑。伍子胥接下剑，赤脚披衣跑到庭院中仰天大呼：“当年我帮助你为太子，你登位后要分一半国家给我，我没有接受。如今你却要杀我。好吧，杀了我，把我的眼睛挖出来挂在东门（后来的胥门）之上，我要看着越国的军队是如何杀进来的。”夫差听了大怒：“你这个不忠不信之人，我要你出使齐国，你却把儿子托付给敌国，早就有了叛吴之心了。”
伍子胥终于平静了下来：“好吧，我死了，后世一定会尊我为忠臣的。我要去和龙逢、比干做朋友了。”
伍子胥临终时嘱咐他的儿子：“抉吾目悬于东门（后来的胥门），以观越兵来伐吴。以鱼皮裹吾尸投于江，吾当朝暮来潮，以观吴之败。”后九年，果然如子胥所说，越国灭了吴国。
传说伍子胥死后，尸体被抛入江中，而伍子胥屈死之怨未消，一当怒发，便驱水为涛。钱塘江涌潮由此而生，涌潮时，人们还能见到子胥白马素车奔驰于潮头之中。
为纪念伍子胥，后人立伍公祠，又有伍公庙、伍员庙、胥山庙之称，伍子胥被奉为“潮神”，从此香火不断。宋王安石题有《胥山庙碑铭》，有“吴亡有千余年，事之兴坏废革者不可胜数”。
对于伍子胥的一生，司马迁为后人留下了这样的评论：怨毒对于人类来说实在是太厉害了！国君尚且不能和臣子结下怨毒，何况地位相同的人呢！假使伍子胥追随他的父亲伍奢一起死去，和蝼蚁又有什么区别。放弃小义，洗雪重大的耻辱，让名声流传后世。可悲啊！当伍子胥在江边困窘危急的时候，在路上沿途乞讨的时候，他的心志难道曾经有片刻忘掉郢都的仇恨吗？所以，克制忍耐，成就功名，不是刚正有气性的男子，谁能达到这种地步！