吕尚是吕国奴隶主贵族的后裔。他虽然在进入西周统治集团之前政治地位低微，但曾受过严格的贵族教育，掌握有丰富的政治、军事知识，属于当时的高级知识分子。
吕尚进入西周统治集团及其以前的活动情况，古籍中的记载，既简略而又不一致。据《史记》归纳，大致有三种说法：一种说吕尚虽有“霸王之辅”的军、政才干，但一直未能得到明主的赏识，无法施展自己的才能与抱负，直到老年，“闻文王贤，故钓于渭水以观之”，姬昌出猎时遇见吕尚，经过交谈，对吕尚丰富的军、政知识极为赞赏，遂“载与俱归，立为师”。另一种说吕尚博学多闻，曾在商王朝中任官，因纣王无道，才脱离商王朝，到诸侯各国去进行游说，但都未被重用，最后方归依姬昌。再一种说吕尚为逃避现实，隐居海滨，不问政治。在姬昌被纣王囚于羑里时，周臣散宜生、闳夭前往招聘，吕尚认为姬昌贤明，能尊重老年知识分子，遂应聘入周。三种说法虽各不相同，但也有其共同的一面：都企图说明吕尚在入周之前，政治地位低微，而且怀才不遇，甚至穷困潦倒，只是在受到姬昌这个明主的赏识和重用之后，才得以发挥其聪明才智，施展其宏图远略。从中也可以反映出当时的人才思想。商、周是等级森严的阶级社会，王朝中的辅政大臣，也就是指挥军队的军事统帅，都是由君王的近亲贵族世袭担任，姬昌勇于打破常规，聘用政治地位低微、破落贵族出身的吕尚为最高军政长官，在当时的具体历史条件下，确实难能可贵。正如《荀子·君道》所说：“夫文王非无贵戚也，非无子弟也，非无便嬖也。倜然（特别地）乃举太公于州人而用之”，无非是对人才、特别是军事人才的重视。反映出这时已出现了军事人才思想的萌芽，揭开了我国军事人才思想史的第一页。
此外，还有第四种说法，《战国策·秦策》记载秦谋臣姚贾说：“太公望，齐之逐夫，朝歌之废屠，子良之逐臣，棘泽之雠，不庸，文王用之而王。”这更属于后人的附会演义，其可靠性非常值得怀疑。从记载的资料来看，此说当开始盛行于战国。这和战国时的社会制度及各国均聘用身份贱微但有军事才能的“士”来担任将帅的军事人才思想完全适应。可见这个屠牛、卖酒、当雇工的“吕尚”，是战国的士人们根据自己的想法而塑造出来的一个理想化了的形象。