吕叔湘，1904年12月24日出生在江苏省丹阳县城内新桥西街柴家弄，在兄弟中排行第三。父亲吕东如经商，家境较富裕。吕叔湘幼年时在县城的一所私塾读书，1915年，考人丹阳县高等小学。这是该县最早的一所高等小学，校址坐落在县城白云街中段，现在是丹阳实验小学。这个学校虽然没有多少先进设备，但教师水平较高，教学认真，管理极严。吕叔湘入学的这年，学校增开了英语课。
校长杨鸿范是位忠厚的长者，教全校三个年级的算术，抓习题作业十分认真。作业本上绝对不准添除涂改。如果写错，全部重写。这样就养成学生不写错字的好习惯。国文教师张海宗讲批改作文，随改随讲。一起叫去五六个学生，因此可以听到五六篇作业的评改。
当时丹阳没有中学，高小毕业升学，有的去镇江六中，有的去常州五中。1918年暑假，吕叔湘和同学夏翔考入江苏省立第五中学。这是他第一次离开家乡。常州五中的校训是“存诚，能贱”，入学的新生看了，不解其意。校长特地给他们讲了这两句话的含意：“存诚”是做人要老实；“能贱”是不要轻视卑微的工作。
吕叔湘在各种功课中，对国文和英语最感兴趣，有空喜欢在图书馆广泛阅读。
1922年，吕叔湘中学毕业，以优异的成绩考取国立东南大学外国文学系（后改为外国语文系）。根据当时学校的制度，除本专业课程外，还必须在文科和理科的几组课程中选修若干学分，如中文、历史、物理、化学、地学、生物学、心理学等课程。所有这些，都为他以后的教学和研究工作打下了基础。
吕叔湘学生时代的兴趣在文学方面，对语言方面如语音、会话等并不十分重视。后来到中学教英文，需要语音、语法方面的知识，就边教边补。吕叔湘于1926年从南京国立东南大学毕业，到家乡刚刚创办了一年的丹阳县立中学教一个班英文。当时只有两个班；校长陈湘圃自己教了一个班英文。吕叔湘教学任务不足，陈湘圃让他兼教国文文法。吕叔湘以《马氏文通》为教材，开始钻研中国文法。
吕叔湘除在丹阳县中任教外，还在堂兄吕凤子创办的丹阳正则学校兼课，后来是该校校董之一。吕风子长吕叔湘十八岁，在吕叔湘懂事的时候，吕凤子已到外地工作，两人很少见面。在丹阳的这段时间里，吕叔湘上课前后，有时候去凤子大哥的房子里随便谈谈，两人很快熟识起来。
1927年暑假后，校长陈湘圃改任省立徐州中学校长，继任的校长是何金元。半年后，何金元被地方势力逼得辞职，吕叔湘也跟着辞职到苏州去教书。1928年，丹阳县中情况很不好，吕凤子等共商对策，把一向在杭州教书、跟丹阳教育界无关系的何其宽找回来担任县中校长，希望能缓和矛盾。何其宽又把吕叔湘请回来担任教务主任。另外又从外地请来几位有学问有经验的教师，一时间，教师阵容整齐，学校气象为之一新。
可这是不符合某些地方势力愿望的，他们不断给何其宽制造困难。何其宽感到棘手，只干了一学期，又不得不辞职回到杭州去教书，吕叔湘也辞职去安徽省第五中学教书，暑假后仍到苏州中学任教。
1929年起，吕叔湘一直在外地工作，难得回丹阳，可每逢回丹阳，他总要到正则学校去看望风子大哥和别的熟人，忘不了自己是正则大家庭中的一员。苏州中学图书较多，吕叔湘在这里阅读了丹麦学者叶斯柏森的《语法哲学》等语言学名著，为以后走上语言学研究的道路打下了基础。
吕叔湘在苏州中学，除教学外，还参加《高中英文选》（中华书局出版）的编注工作。有空还译书，前后译出《人类学》、《初民社会》、《文明与野蛮》三种，分别由商务印书馆和生活书店出版。1935年，吕叔湘考取江苏省公费留学英国，第二年年初成行。在起程前，吕凤子欣然为他绘一幅画送行。吕叔湘先后在牛津大学人类学系、伦敦大学图书馆学科学习。他出于教育救国的思想，决定选学图书馆学专业，是因为觉得图书馆工作对发展祖国的文化事业作用很大，自己要为改进我国的图书馆工作而努力。
1937年，抗日战争已开始，吕叔湘没有等三年期满．提前于1938年初回国。当时江苏已沦陷，吕叔湘家人流亡到湖南，吕叔湘与家人会合后，转道云南，在云南大学文史系任副教授，教英语。他和施蛰存住同屋。施蛰存拉他给《今日评论》周刊写文章。恰好早几天，吕叔湘看到朱自清先生写的一篇文章说，每个句子总要有一个主词，觉得这种说法不全面。考虑再三，他就写了《中国话里的主词及其他》。这是吕叔湘先生的第一篇有关汉语语法的文章，并由此结识了朱自清先生。也正是这篇文章发表后，1939年暑假后开学，系里给他加了一门中国文法。这时候，王力先生在西南联大讲授“中国现代语法”的讲义已经印出来了，吕叔湘借来一份参考。他在教课中遇到一些问题，想找王力先生商讨，可王力先生休假，住在河内从事汉越语的研究，无法商讨，只好自己琢磨钻研。
1940年暑假后，吕叔湘离开昆明，迁居成都，任华西大学中国文化研究所研究员。他的第一篇研究论文是《释您、俺、咱、喒，附论们字》，这是针对胡适和王静如的文章写的，他们说“们”是从“俺、您、喒”的韵尾-m变来的，吕叔湘发现这个结论恰好把演变的历史颠倒了，引许多材料证明先有“们”字。“俺”是“我们”的合音，“您”是“你们”的合音，“喒”是“咱们”的合音。此后他接着发表《说汉语第三身代词》（英文）、《论“毋”与“勿”》等论文，其中有好几篇是研究近代汉语（即早期白话）的，开辟了汉语语法研究的一块处女地，代表作有《释〈景德灯录〉中“在、著”二助词》等。
1942年，吕叔湘离开华西大学，改任金陵大学中国文化研究所研究员。同年，商务印书馆出版了他的《中国文法要略》上卷（中、下卷出版于1944年）。这是我国语法学史上的开创性著作之一。我国在《马氏文通》以前，没有系统的语法著作。古人讲章句，讲虚字，目的是读懂古书，还没有想过语言的形式可分析综合，总结出一些规律。语法学是19世纪末从西方引进来的，因此不免有一段时间以模仿为主，难免有削足适履的毛病。吕叔湘历来重视语言实际的研究，他的语法著作总是从具体的语言材料出发，努力探索汉语的特点和规律。《中国文法要略》这本书以丰富的语言材料为基础。因为此书是四川教育科学馆约稿，供中学教师参考，所以引用的材料大多数取于当时的语文课本，文言白话兼收。作者用比较的方法研究语法，建立了一个新的语法体系，对后来的语言研究产生了一定的影响。
吕叔湘孜孜不倦地从事研究工作，他于1942年至1948年在《中国文化研究汇刊》上发表了《“相”字偏指释例》、《“见”字之指代作用）、《论“底”“地”之辨及“底”字的由来》、《与动词后“得”“与”“不”有关之词序问题》、《“个”字的应用范围，附论单位词前“一”字的脱落）》、《把字用法的研究）等一系列语法论文。又在《开明书店二十周年纪念文集》上发表了《从主语宾语的分别谈国语句子的分析》一篇长文，对解放后的主宾语讨论有一定影响。
吕叔湘也很重视语言学的普及工作，写出大量的深入浅出、取材精当的文章。在《国文杂志》（桂林）上发表过《文言和白话》、《汉字和拼音字的比较》、《笔记文选读》（连载），在《中学生》上发表过《中国人学英文》（连载）。1944年由开明书店出版的《文言虚字》，选取最常用的二十多个文言虚字，条分缕析，详细举例，说明它们的意义和语法功能，并尽可能和现代汉语比较。解放后，此书由中国青年出版社印了十三次，新知识出版社印了四次，上海教育出版社印了十三次。
1946年，吕叔湘随金陵大学由四川返回南京，仍旧任该校中国文化研究员，同时兼中央大学中文系教授。又和朱自清、叶圣陶合作编写《开明文言读本》（计划编六册，只出了三册）。
吕叔湘是一位道道地地的学人，非迫不得已，不参加社会上种种应酬，而是一门心思研究学问。吕叔湘治学态度严谨，他的著作总是理论联系实际，处处体现严肃认真、实事求是的作风。无论是长篇巨著，还是一二千字的短文，都要逐字逐句地仔细推敲，从不马虎敷衍。
他在读书的时候，遇到有用的材料，从来不放过，一定抄录下来，“说不定什么时候有用”。他在《这、那考原》这篇札记里，为了证明“这”字的前身“者”字在宋朝时已经跟现在的“这”字一样念去声，引用了两个例子。一个是杨万里的诗“只者天时过湖得，长年报道不须愁”，作者在“者”字底下自己注上“去声”。一个是《朝野遗记》里有一条，记刘攽请客，苏轼要先走。刘说：“幸早里，且从容。”苏轼说：“奈者事，须当归。”各以三果一药为对（杏、枣、李，苁蓉；柰、蔗、柿，当归）。有人问吕叔湘：“这么巧的例子是怎么找来的？”吕叔湘坦率地说：“说实话，找，未必找得来。这是还没有写这篇札记的时候就摘录下来的。”
吕叔湘对中国学生学英语也很关心，在开明书店出版了《中国入学英文》、《中级英文法》、《英译唐诗百首》等书，在正中书局出版了《英华集》，吕叔湘原来将此书题作《中诗英译比录》，出版社硬把它改了；到1980年上海外语教育出版社重印时才恢复原名。
1948年12月，吕叔湘由南京迁居上海，任开明书店编辑。解放后，他随开明书店迁往北京。
1950年2月，吕叔湘应聘任清华大学中文系教授。1952年高校院系调整，改任中国科学院语言研究所研究员，同时也是中国文字改革研究会（1954年改为中国文字改革委员会）的委员。
新中国刚成立不久，领导上考虑到机关干部以及报刊来稿上都存在着语言混乱现象，约请吕叔湘和朱德熙合写了《语法修辞讲话》在《人民日报》上连载。这个讲话不作理论上的阐发，尽量少用术语，主要通过举例来说明。全书六讲中除第一讲简单介绍语法体系外，其他各讲都是举出报刊杂志、课本、文件、文稿等时常出现的病句，分别从语法、修辞、逻辑等不同的角度一一加以解释说明。《人民日报》于1951年6月6日起开始连载，并发表了《正确地使用祖国的语言，为语言的纯洁和健康而斗争》的社论。社论明确指出：“我们的学校无论小学、中学或大学都没有正式的内容完备的语法课程。”“正确地运用语言来表现思想，在今天，在共产党所领导的各项工作中具有重大的政治意义。”一段时间内，在全国范围掀起了学习语法、教学语法、研究语法的高潮。也就在这个时候，《中国语文》、《语文学习》、《语文知识》等刊物相继创刊，有力地推动了语法知识的普及。不仅学校普遍地加强了语法教学，就是机关干部、工人、解放军战士等也开始以《语法修辞讲话》和其他语法著作为教材，纷纷学习语法，范围之广，在中国历史上是前所未有的。
1953年3月至5月，吕叔湘参加中国科学院访苏代表团，6月兼任语言研究所副所长。担任行政职务以后，吕叔湘写作的时间少了，但还是在《中国语文》上发表了几篇论文，其中《汉语研究工作者的当前任务》（1961）比较重要，它围绕现代汉语讲规范化问题，提出了语音、语汇、语法、修辞、方言、汉语史、文字改革、语文教学、工具书和参考资料的编辑等十个方面的具体任务，并对每一个方面的研究重点、应当达到的目标进行了详尽的论述。
这个时期，他还参加了两项与语文教育有关的工作。一项是参与拟订《暂拟汉语教学语法系统》的工作，另一项是指导和校订初中《汉语）课本。后者是应当时将语文课分为《文学》和《汉语）两门的需要而编的，试用两年之后，这两门课又合并为《语文》一门，但六册《汉语》课本仍然继续在学校内外发挥相当作用。至于《暂拟汉语教学语法系统》的影响就更大了。
在1955年召开的现代汉语规范问题学术讨论会上，决定要编一本《现代汉语词典》，1956年开始筹备，1958年开始编写，吕叔湘负责主编，到1960年印出“试印本”，向各方征求意见。这项工作后来就由丁声树负责。
十年动乱初期，吕叔湘也参加劳动学习，后来也下干校。1971年回北京，住在家里，很少外出。一度从事丹阳方言的研究，也阅读了好些英国文学作品。“文革”后期，他和几位同志代中华书局校勘标点本《资治通鉴》的标点，后来把其中有代表性的一百三十多条分三十类，写成《资治通鉴标点琐议》，许多标点古书的人为之震动。同时，他又反复考虑现代汉语语法体系的问题，这是他从60年代初就一直放在心上的。后来他把自己的种种想法写成《汉语语法分析问题》，于1979年出版。
经过几乎完全沉默的十年之后，语言学界逐渐活跃起来了。1978年以后，有些省市组织了语言学会，1980年在武汉开会成立了全国性的中国语言学会，吕叔湘被推举为会长。在成立大会上，吕叔湘发表了题为《把我国的语言科学推向前进》的长篇讲话，提出要处理好中和外、虚和实、动和静、通和专四个关系，这既包括治学态度、又包括研究方向、方法和人才培养，可以说是他数十年来从事语文工作的经验总结。
1978年3月16日，吕叔湘在《人民日报》上发表《语文教学中两个迫切问题》，引起极大震动。1979年12月教育学会邀请各省市代表到上海开会讨论成立中学语文教学研究会，吕叔湘被推举为理事长，并在会上发表了长篇讲话。
1980年，由吕叔湘主编、有十几位学者参加的《现代汉语八百词》出版，这是我国第一部现代汉语用法词典，全书五十多万字，适合非汉族人学汉语时使用，也可供方言区的人学普通话时参考。选词以虚词为主，也收部分实词；每个词按意义和用法分项说明。这部词典在某种意义上说是个创举，过去虽然有过《经传释词》和《词诠》等书，但都以文言为对象。
1980年出版的《语文常谈》和1984年出版的《语文杂记》都是篇幅不大的“小书”，但很能表现吕叔湘讲学问能够深入浅出的特色，这一时期吕叔湘还把以前发表过的文章结集为《汉语语法论文集》（增订本）和《吕叔湘语文论集》。更重要的是1985年出版的《近代汉语指代词》，吕叔湘在40年代就有写一部近代汉语历史语法的计划，1947至1948年他把搜集的材料里面关于指代词的部分分类排比，略加贯串，写成初稿，作为近代汉语历史语法的一部分。后来因为工作有了改变，就把稿子搁了下来。1983年取出旧稿，经过整理和补充，写成《近代汉语指代词》一书，1985年由上海学林出版社出版。出版后在国内国外都获得好评。
1985年是吕叔湘从事语文教学与研究的第六十年，《中国语文》杂志社第一、二期出版特辑，以表庆贺。4月下旬至5月上旬，他应邀访问香港。4月27日他在香港中国语言学会演讲《汉语句子结构的灵活性），受到与会者的好评。
1986年10月14日至18日，在北京西山第四次现代汉语语法学术讨论会上，吕叔湘讲了话，主要是推荐一篇《光明日报》上报道杨振宁教授谈要研究活的物理学的文章。他抑扬顿挫地朗读了报道的全文。与会的四十多名中年同志和三十多名列席旁听的青年同志领悟了吕叔湘先生这番话的深刻含意：搞语言学也应该追求新的、活的、与现实直接发生关系的东西。吕叔湘引杨振宁的话：“一个青年人应该将他的大部分时间用于解决简单的实际问题，偶尔做一些难的问题，而不应该专一处理深奥的根本问题。”
吕叔湘追求进步，热爱祖国，先后从事语文教学与研究工作。他非常关心中青年语文工作者的进步，对他们寄予极大的期望。通过开会、作报告、个别谈话、给他们修改文章、为他们的著作写序等多种形式，他跟中青年语文工作者保持密切的联系。他的优良学风、高尚品德，受到学术界的普遍赞扬，为了推进祖国语言研究的发展，鼓励对中国境内的语言文字的现状和历史进行调查研究有成绩的中国青年学者，吕叔湘先生于1983年5月捐献多年积蓄的六万元，作为中国社会科学院青年语言学奖金的基金。从1984年开始每年进行评奖（最近改为每两年进行一次）。
1987年10月23日，在北京中国人民大学建校五十周年庆祝大会上，举行了吴玉章奖金首次发奖仪式。吴玉章奖金这次评选出特等奖三项，一等奖五项，优秀奖四项。获奖作品是哲学社会科学的优秀著作。吕叔湘的《汉语语法论文集》（增订本）荣获语言文字学特别奖。发奖以后，吕叔湘先生代表获奖者讲了话。他希望吴玉章奖金基金将日益增多，获奖作品也越来越多，并表示，他要把这次所得的奖金五千元转为中国社会科学院青年语言学家奖金。吕叔湘先生这种高瞻远瞩、寄希望于未来、奖掖后学的崇高精神，受到了与会者的热烈欢迎。
吕叔湘先生在耄耋之年，还参加大百科全书语言文字卷的审稿工作，还有语言学界的其他集会，仍十分关心国内外学术界和教育界的动态和发展。1987年3月他去香港，接受香港中文大学颁发的荣誉文学博士学位。1994年当选为俄罗斯科学院外籍院士。他是第二、三届全国政协委员，第三、四、五、六、七届全国人大代表，第五届全国人大常委会委员，法制委员会委员。他是当代中国杰出的语言学家、语文教育家、翻译家。他从事语文教学与研究七十余年，学贯中西，博大精深，撰述宏富，专著和编译近二十种，论文和其他文章六百余篇，现已有《吕叔湘文集》六卷由商务印书馆出版，并将由辽宁教育出版社出版十八卷本《吕叔湘全集》。内容广泛，涉及一般语言学、汉语研究、词典编纂，文字改革、语文教学等领域，为中国语言学作出卓越贡献。
1998年4月9日，吕叔湘先生因病医治无效，在北京逝世，享年九十四岁。