甘罗是甘茂的孙子。甘茂死去的时候，甘罗才十二岁，奉事秦国丞相文信侯吕不韦。秦始皇派刚成君蔡泽到燕国，三年后燕国国君喜派太子丹到秦国做人质。秦国准备派张唐去燕国任相，打算跟燕国一起进攻赵国来扩张河间一带的领地。张唐对文信侯吕不韦说：“我曾经为昭王进攻过赵国，因此赵国怨恨我，曾称言：‘能够逮住张唐的人，就赏给他百里方圆的土地。’现在去燕国必定要经过赵国，我不能前往。”吕不韦听了怏怏不乐，可是没有什么办法勉强他去。甘罗听说了，就要求去说服张唐。吕不韦呵斥说：“快走开！我亲自请他去，他都不愿意，你怎么能让他去？”甘罗说：“项橐七岁就做了孔子的老师。如今，我已经满十二岁了，您还是让我试一试。何必这么急着呵斥我呢？”于是吕不韦就同意了。
甘罗去拜见张唐说：“您的功劳与武安君白起相比，谁的功劳大？”张唐说比不上他。甘罗又说：“应侯范雎在秦国任丞相时与现在的文信侯相比，谁的权力大？”张唐说：“应侯不如文信侯的权力大。”甘罗说：“应侯打算攻打赵国，武安君故意让他为难，结果武安君刚离开咸阳七里地就死在杜邮。如今文信侯亲自请您去燕国任相而您执意不肯，我不知您要死在什么地方了。”张唐想了想，感觉事态严重，于是说：“那就依着你这个童子的意见前往燕国吧。”于是让人整治行装，准备上路。
行期已经确定，甘罗便对文信侯吕不韦说：“借给我五辆马车，请允许我为张唐赴燕先到赵国打个招呼。”文信侯就进宫把甘罗的请求报告给秦始皇，秦始皇召见了甘罗，很欣赏这个孩子，就派他去赵国。赵襄王到郊外远迎甘罗。甘罗劝说赵王，问道：“大王听说燕太子丹到秦国做人质吗？”赵王回答说：“听说这件事了。”甘罗又问道：“听说张唐要到燕国任相吗？”赵王回答说：“听说了。”甘罗接着说：“燕太子丹到秦国来，说明燕国不欺骗秦国。张唐到燕国任相，表明秦国不欺骗燕国。燕、秦两国互不相欺，显然是要共同攻打赵国，赵国就危险了。燕、秦两国互不相欺，没有别的缘故，就是要攻打赵国来扩大自己在河间一带的领地。大王不如先送给我五座城邑来扩大秦国在河间的领地，我请求秦王送回燕太子，再帮助强大的赵国攻打弱小的燕国。”赵王也明白局势，立即亲自划出五座城邑来扩大秦国在河间的领地。秦国送回燕太子，赵国有恃无恐，便进攻燕国，结果得到上谷三十座城邑，让秦国占有其中的十一座。
甘罗回来后把情况报告了秦王，秦王十分惊喜，于是封赏甘罗让他做了上卿，又把原来甘茂的田地房宅赐给了甘罗。由于当时丞相和上卿的官阶差不多，民间因此演绎出甘罗十二岁为丞相的说法。可惜，他有才有识，寿命却不长，受封之后不久就去世了。
