魏文侯在相国李悝等人的辅佐下，国家实力增强了，魏文侯就有了对外扩张的心思。当他发现中山国的国君昏庸无道，使百姓饱受疾苦，便将注意力集中在中山国。可是由谁出任主帅呢？魏文侯召集众臣商议。
善于推荐人才的翟璜说：“派乐羊大将军比较合适，此人不但足智多谋，而且为人忠直。”
翟璜话音刚落，就遭到群臣反对：“不行，乐羊的儿子乐舒在中山国任大夫之职，如果乐羊攻城，中山国必然要乐舒守城，乐羊怎能尽力呢？”此话甚是，常言道虎毒不食子，乐羊看见儿子，即使智再足、谋再多也会心慈手软。
翟璜站起身高声说：“了解一个人不能太片面。据我所知，中山国的国君曾让乐舒备厚礼请乐羊助他，并许以高官厚禄。乐羊不但没有答应，反而劝儿子离开那个昏君，他的儿子不肯，还被他骂了一顿。所以乐羊将军决不会为了私情误了国事。”
魏文侯听了大家的意见，没有表态，只说将此事推后再议。第二天，魏文侯未提此事，却单独接见了乐羊。又过了两天，魏文侯颁布命令，乐羊充任大将，率五万兵马，即日启程收服中山国。乐羊领命而去，闲言此起彼伏，魏文侯却不动声色。
去中山国要途径赵国，为了不惊动赵国，乐羊与士兵一起披荆斩棘、开路架桥，历尽千辛万苦在赵国边境线上穿行，乐羊同士兵同甘共苦的精神深深感动了大家，士兵们士气一直很高昂。大家齐心协力，很快进入中山国，一路上势如破竹，沿途守将纷纷溃逃，魏军不费吹灰之力逼近中山国都城。
中山国的国君急得像热锅上的蚂蚁，他慌忙找来乐舒，让他求乐羊退兵。
乐舒了解父亲的脾气，可又不敢违背国君的命令，只好硬着头皮去见父亲。乐羊见儿子出现在城头，心中自然有数，未等儿子开口就高声喊道：“事已至此，你快劝姬窟投降，你可将功折罪，姬窟也可免死！”
乐舒知道说别的也没用，只好求父亲容他回去商议商议。乐羊给了他一个月的期限。
一个月的期限很快就到了，中山国的国君并未来降，乐羊下令攻城。这时乐舒又出现在城头，求父亲再给点时间，乐羊又宽限了一个月，就这样，乐舒求了三次，乐羊让了三次。众将士议论纷纷，谩骂之声也间或出现。乐羊语重心长地对大家说：“我们出师是来解救中山国的百姓，如果硬攻硬打，遭殃的是百姓，我们就要失掉民心。中山国离魏遥远，管理不便，我们即使攻下它，人心不服，不久也会失去。如果我们围而不攻，百姓念及我们是仁义之师，必是人心所向，中山国也会不攻自破。”
众将士恍然大悟。
魏国众臣听说乐羊围城三个月而不攻，不禁谣言四起。有的说他顾及父子亲情故意劳民伤财，拖延时间，有的说他被中山国国君收买，给他一半的土地而不攻城。
魏文侯听了这些话，将翟璜找来说：“乐羊将军走了三个月，在外一定很辛苦，我准备派人送去些慰劳品，另外我还要给乐羊盖一座将军府。这两件事由你出面安排吧。”
翟璜向魏文侯深深一揖，告辞而去。乐羊收到慰劳品，又得知魏文侯为他所做的一切，感动得泪溢眼眶，众将士也深受鼓舞。
三个月的期限到了，中山国的国君仍不投降。乐羊经过周密的部署，下令攻城。正在这时，忽听城头大喊父亲，乐羊抬头一看，见儿子被五花大绑吊在大杆上。中山国君也出现在城头，他威胁乐羊说，如果坚持攻城，就杀掉乐舒，乐羊愣了一下，众将士静静地望着老将军，等待他的命令。
乐羊回过神来，挥手喝道：“攻城！”立时战鼓齐鸣，乐羊一手执盾，一手执戟首先冲杀过来，士兵群情激愤，如海浪一样涌向城墙。经过一番厮杀，中山国连连失利，中山国国君见大势已去，杀掉乐舒，然后自杀。
魏国疆士扩大，乐羊首立战功，魏文侯决定封给乐羊土地，乐羊拒绝说：“有主公的信任，就是对我最大的封赏。”
看着亲生儿子被杀，老将军乐羊心里自然十分难过，但在他心中，国家的利益高于一切，这种精神很令后人敬佩。