李元度，字次青，又字笏庭，自号“天岳山樵”，晚年更号“超然老人”，1821年出生于湖南平江县一个家世悠久却已经衰落的耕读之家。他少年早成，因锐意进取、刻苦攻读，18岁时中秀才，23岁时中举人。尽管后来参加会试未中，但其科途还是比较顺畅的，在当地颇有文名。与此同时，他发愤著书立说，写过许多具有独特见解的学术文章，其学识深受知府张振之的赏识。
1850年，李元度以幕僚身份随张振之来到清朝陪都奉天（沈阳）。在这里，他有机会遍览历代皇朝典籍，对历史和现实的许多问题作过深入的思考研究，使自己的学识和才能获得了迅速提高。
李元度在这段时间的幕僚生涯中，既利用有利的条件广泛阅览了历代典籍，专心、深入做学问，又有机会接触到社会实际，其胸怀、识见自然比一般人要高远、宽广得多。加之他的家庭出身和特殊的生活经历，又促使他比一般年轻人成熟得早，讲道义、重情谊的品行和气质得到了人们的钦敬和爱戴；同时，其敢想敢说、敢作敢为、不在乎成败得失的我行我素的个性，决定了他将成为一位有争议的人物。
1853年1月，曾国藩奉命出山至长沙督办团练。对于曾国藩的学识和才能，李元度早有所闻，尤其是曾国藩在1851年前后的几次上奏，给李元度留下了深刻的印象。于是，他对曾国藩的出山寄予了极大的希望，便趁机化名罗江布衣，上书大谈兵略战守机宜。曾国藩在读过这封洋洋数千言的上书后，对上书人的识见和才学赞赏不已。曾国藩是一位求才若渴的人，立即派人四处寻找这位“罗江布衣”。几经周折，终于找到了李元度，断定上书是其所为。
在召见过程中，曾国藩了解到李元度博通经史，是个难得的人才，“遂留参军事”。可是，李元度还有点犹豫，借口回平江老家安顿家人，别离而去。过了很长一段时间，李元度并未应约入曾幕，甚至于1853年10月路过长沙也未去拜晤曾国藩。
曾国藩于1854年1月5日去信李元度，邀他来鼎力相助。李元度这才下定决心于一个月后带兵勇从郴州火速赶到衡州。从此，李元度正式入曾幕，成为曾国藩身边一位重要的谋士，两人之间患难相依的交情逐渐建立起来。