战国初期，在七个诸侯国中，秦国比较落后。公元前361年，秦国的新国君秦孝公即位，不久，就发布了一道求贤令称，谁有办法使秦国富强起来，不管是本国人还是外国人，一律封高官赐土地。
不久，一个叫卫鞅的年轻人从魏国来到秦国。
卫鞅把他的富国强兵的道理给孝公讲了一遍。他说：“要使秦国富强起来，必须实行变法。一方面要发展农业，一方面要奖励英勇善战的将士；同时，还要制订新法令，做到有法必依，赏罚分明。”秦孝公听了卫鞅一番治国宏论，赞不绝口，当即决定用卫鞅，让他着手进行变法改革的准备。
公元前239年，秦王政想联合燕国，攻打赵国。秦王派使者劝说燕王，燕王派太子丹到秦国当人质，秦国决定派大臣张唐为燕相国。
张唐听说后，因惧怕路经赵国时被杀，就在家装病，闭门不出。吕不韦只好到他家亲自劝说。张唐早就想好了理由，说：“我屡次带兵攻伐赵国，赵国特别敌视我，去燕国一定要经过赵国，我可不能去。”
吕不韦再三劝说，张唐坚决不去，吕不韦也毫无办法。
吕不韦回到府中，独坐堂上生闷气。这时一个叫甘罗的小客人（当时12岁，是原秦国丞相甘茂的孙子）走进来问道：“丞相心中有什么事这么闷闷不乐？”
吕不韦生气地说：“小孩子懂什么，也来问我。”
甘罗调皮地说：“您是个礼贤下士的人，心中有事不向贤能之士说出来，我就是有再大的本领，也没有办法为您效劳。”
吕不韦早就听说甘罗虽然年幼，但才智出众，见他说话这么大口气，就想难为他一下，说：“大王决定与燕国和好，燕国派太子丹到秦国，我秦国派张唐到燕国当相国，但是张唐说什么也下去，所以我很生气，先生有什么高见请指教。”
甘罗拍着手笑起来说：“就这么点小事，怎么不早说？我去给你办！”
吕不韦气呼呼地说：“去，去，快一边玩去吧！老夫我亲自去都请不动，他怎么能听你这个乳臭未干的小孩子的话？”
甘罗收起笑容，板着小脸，振振有词地说：“以前，项橐7岁时就当孔子的老师，我今年12岁，比项橐大五岁，已经能办大事了，您可以试着让我去办这件事，如果办不成，再骂也不晚，您怎么能小看天下贤士，随随便便拉下面孔训斥人呢？”
吕不韦听他讲话很有分量，就说：“你如果能让张唐去燕国，事成之后，我请秦王封你上卿的官职。”
甘罗一听，很高兴，说：“请您不要自食其言，咱们一言为定！”
向吕不韦辞行后，甘罗径直向张唐家走去。
张唐得到甘罗要来劝说的消息后，想跟他开开玩笑。
甘罗刚进门，张唐就笑着问：“你这个小孩也想来欺负我吗？”
甘罗恭恭敬敬地给他行了个礼，一本正经地说：“我是来给您吊丧的。”
张唐说：“我好好的，你为什么来给我吊丧？”
甘罗说：“您的功劳和武安君白比怎么样？”
张唐说：“武安君率领秦国大军，在南面挫败了强大的楚国，在北边威震燕、赵两国，打了无数胜仗，攻克许多城池， 我的功劳不如他的十分之一。”
甘罗又说：“在秦国，应侯范睢和文信侯吕不韦，哪个人权势大呢？”
张唐说：“当然文信侯权势大。”
甘罗说：“您知道当初应侯打算让武安君攻打赵国，他装病不去。应侯发怒了，武安君就被赶出国都咸阳，被逼死在杜邮。现在文信侯请您到燕国当相国，您装病不去，文信侯比应侯厉害，您怎么能躲得过去呢？您的死期不远了，所以我来为您吊丧！”
这时，张唐倏然面带惧色，深深地向甘罗作了个揖说：“请先生向文信侯替我请罪，多多美言，我遵命前往燕国。”
过了几天，张唐整理好行装，快要出发了，甘罗对吕不韦说：“张唐是经我劝说，不得已才赴燕。其实，按照情理来说，他也确实害怕路过赵国。请您借给我五辆车，我愿意为张唐先去通报赵国。”
吕不韦已经领教了甘罗的才智，就向秦王推荐说：“甘茂的孙子甘罗，虽年少，但很有智谋。张唐称病，不肯去燕国，甘罗一说即行。现在他又请求先行去赵国，为张唐开道。”
秦王宣甘罗入朝，看他虽然身高只有五尺，但是眉清目秀，招人喜爱。问：“你这个小孩，见到赵王打算说什么呢？”
甘罗回答：“这要察言观色，相机而行。进言，要像刮风兴起的波涛一样，随风而转，不能预先确定。”
秦王点头称是，给他10辆华丽的马车、100多名随从，派他正式出使赵国。
赵国已知燕秦通好，害怕两国联合伐赵，听到秦国使者来到，非常高兴，派人出城20多里迎接。
在赵国的王宫里，赵悼襄公看见使者是个小孩，有些轻视，说：“看来秦国朝廷上成年人不够用了，就派先生来了？”
甘罗神气十足地说：“秦王用人，能够发挥每个人的特长，年岁大的人办大事，年岁小的办小事。我12岁，年龄最小，所以派我到赵国。”
赵王见他言辞磊落，暗暗称奇说：“先生来到赵国，有何见教？”
甘罗说：“大王听说燕太子丹入质于秦、张唐将要相燕的事情吗？”
赵王说：“听说了。”
甘罗说：“燕太子丹人质于秦，是燕国不欺骗秦国；张唐相燕，是秦国不欺骗燕国，秦燕互不欺骗，赵国就危险了。”
赵王说：“秦国和燕国联合是什么用意呢？”
甘罗说：“秦王亲燕，打算攻打赵国，说得明白一点，就是想扩大国土。我劝大王不如先割让五个城献给秦国。然后我请求秦王不要再派张唐相燕，以绝秦燕之好，而与赵国修好。如果强大的赵国去攻打弱小的燕国，而秦国不派救兵，赵国所得到的就不只五个城池了！”
赵王听罢很高兴，赐给甘罗黄金二千两、白璧两双，把五个城地图给他，让他转报秦王。
甘罗回到秦国，向秦王报告出使的情况，秦王高兴地赞扬：“得到这五个城，全凭甘罗的智慧！”随后，秦王决定不再派遣张唐相燕。张唐听到这个消息，非常感激甘罗。
赵国听说秦国不派张唐相燕，知道秦国不助燕国，便派大兵攻伐燕国，夺取上谷一带30个城，赵国得19个，送给秦国11个。秦王拜甘罗为上卿。这就是小甘罗12岁为丞相的佳话。