刘半农的退学在家乡引起了一场轩然大波，不仅刘父大为震惊，家乡人也议论纷纷。刘半农决定离开家乡到外地发展。1912年，刘半农只身前往上海，经朋友介绍，在时事新报和中华书局谋到了一份编辑工作，并业余在《小说月报》、《时事新报》、《中华小说界》和《礼拜六》周刊上发表译作和小说。为了迎合读者口味，他给自己起了几个艳俗的名字，如半侬、寒星、范瑞奴等，而用得最多的笔名就是半侬。由于中文功底好、悟性高，再加上勤奋和才情，刘半农很快成为上海滩文坛上一个十分活跃的小说新秀，拥有了一批读者。5年时间发表了40多篇艳情小说，内容包括言情、警世、侦探、滑稽、社会等等有闲阶级阅读的消遣小说，如《失魂药》、《最后之跳舞》等等，他的名字经常出现在《小说月报》、《小说大观》、《礼拜六》等杂志上，受到许多读者的追捧。苏雪林晚年回忆说：“半侬的小说我仅拜读过三数篇，只觉得滑稽突梯，令人绝倒。”
经过几年奋斗，刘半农在上海滩声名鹊起，被人称为“江阴才子”、“文坛魁首”，他已经可以靠着每月几十元的稿费维持一家人的生活。而且约他写稿的杂志越来越多，就连赫赫有名的报人和小说家严独鹤都来向他组稿，刘半农终于用一支笔为自己闯出了一片新天地。
1917年夏，刘半农从上海返回江阴，一方面在家中赋闲，一方面思考着自己未来的人生道路。由于没有固定收入，只好靠变卖家中物品度日，经常穷得揭不开锅，最困难的时候连猫食都无钱购买，妻子不得不经常到娘家去借贷。就在一家人贫困潦倒的时候，忽然接到了一封北京大学蔡元培校长寄来的聘书，正式聘请他担任北京大学预科国文教授。一个连中学都没有毕业的人突然接到全国最高学府的聘书，不仅妻子难以相信，他自己也不敢相信。只有弟弟刘天华相信，他一向佩服哥哥的才华，相信以哥哥的天资早晚会出人头地，做出一番大事，现在机会终于来了。开始刘半农还有些丈二和尚摸不着头脑，怎么也不相信这样一步登天的好事会落到他的头上，想了半天才想到不久前在上海与《新青年》主编陈独秀的一次难忘的会面，现在看来一切都是那次会面时的结果。事实正是如此，那次会面，陈独秀慧眼识珠，不仅看出刘半农身上的锐气，更看出他是一个可造之才，北大正需要这样的人，于是向不拘一格选人才的蔡元培先生作了大力推荐。就这样，一个籍籍无名的连中学都未毕业的乡村青年一个鲤鱼跃龙门，跨入了全国最高学府北京大学。随着一纸聘书，刘半农这个连中学都没有毕业的人，一步跨入了北大这个全国最为显赫的高等学府。同时执教的还有钱玄同、周作人、胡适等人。最初他教授诗歌、小说、文法概论和文典编纂法等。虽然连中学都没有毕业，好在他国学功底并不逊于他人，而且又长于写作，阅读广泛，上课又认真准备，不久就站稳了脚跟，得到了学生的认可。很快人人都知道北大来了一个中学肄业的国文教授刘半农。一个偶然的机会，醉心于通俗小说创作的刘半农在《新青年》杂志上看到胡适的《文学改良刍议》，大受震动，决定与旧文学决裂，投向新文学。1918年起，刘半农开始向《新青年》杂志投稿，表达自己文学改革的愿望。署名时斟酌再三，觉得自己以前用那种香艳媚俗的笔名“半侬”十分可耻，毅然去掉了偏旁，改为“半农”，以示与过去决裂。1918年1月在《新青年》杂志上发表《应用文之教授》一文时，正式署名“半农”，从此“半农”成了他正式的名字。
北大是新文化运动的发祥地，也是新文化思想的中心，进入北大后，刘半农变成了新文化运动的急先锋。仅在《新青年》杂志上写写文章，他觉得还不过瘾，他希望与复古派守旧派来一次彻底的对决，给他们以迎头痛击。在上海时他曾进过剧团做过编剧，所以他首先想到了双簧戏。觉得这是一个十分理想的形式。他把自己的想法告诉了好友钱玄同。钱玄同和他一样，也是个大炮筒子性格；曾经骂“桐城巨子”和“选学名家”为“桐城谬种”、“选学妖孽”。由于两人性情相近，在教授圈子里一向过从甚密，无话不谈。刘半农提议两人合演一曲双簧戏，一个扮演顽固的复古分子，封建文化的守旧者，一个扮演新文化的革命者，以记者身份对他进行逐一驳斥。用这种双簧戏的形式把正反两个阵营的观点都亮出来，引起全社会的关注。一开始，钱玄同觉得主意虽不错，但手法有些不入流，不愿参加。但刘半农坚持说，非常时期只有采取非常手段，才能达到目的。经他反复动员，最后钱玄同才同意与他一起演一出双簧戏。这出双簧戏旗帜鲜明，在文坛引起强烈反响，不仅真的引来了“王敬轩”那样的卫道士，如林琴南等人的发难，更多的却引起了青年学子和进步人士的喝彩。鲁迅对此也持肯定的态度。这一正一反两篇文章同时出现，结果“旧式文人的丑算是出尽，新派则获得压倒性的辉煌胜利”。一些原来还在犹豫的人都开始倾向新文化了，连朱湘和苏雪林都说他们是看了这双簧戏才变成新派的，可见双簧戏影响之大。
刘半农导演的这出双簧戏已经成为现代文学史上一个富有戏剧性的插曲。关于刘半农对新文化的贡献，苏雪林认为：“虽不足与陈、胡方驾，却可与二周并驱。事实上，他对新文学所尽的气力，比之鲁迅兄弟只有多，不会少。”作为新青年的健将刘半农对新文学的贡献是很大的。但这样的评价，就未免过誉了。
发奋读成“国家博士”
刘半农到北大后，自知资历浅，所以十分勤奋，讲课很受学生欢迎，创作也十分活跃，但在北大这个学院派占统治地位的地方，像他这样一个连中学都没有毕业的大学教授依然被一些人视为“下里巴人”，对他能否胜任教学工作常常表示怀疑。一次在《新青年》编委组成人选上，胡适就直接提到了人选的学历问题，这对刘半农无疑是一个很大的刺激。同时，刘半农在上海滩染上的才子气，包括衣着打扮等作派也遭到一些人的诟病。鲁迅后来在《忆刘半农君》中也指出：“那些人批评他的为人，是：浅。”“但这些背后的批评，大约是很伤了半农的心，他的到法国留学，我疑心大半就为此。”
都说愤怒出诗人，对于刘半农则是发奋读博士。在蔡元培的支持下，刘半农考上了官费赴英留学的资格。1920年2月7日携夫人朱惠和女儿小蕙自上海启程，乘坐日本货轮“贺茂丸”赴英留学。
当时伦敦生活费昂贵，一家三口仅靠他一个人的官费生活十分拮据。半年后，又生下一对龙风胎，刘半农因地取名，把“伦敦”一拆为二，男孩先生名育伦，女孩后生名育敦。家里又多了两张嘴，经济压力更大了，穷得连摇篮都买不起，只好把从国内带去的柳条包拆成两截，做成两个简易的摇篮。穷则思变，听朋友说法国国家图书馆藏书丰富，生活费用也比英国便宜，于是1921年6月全家迁居法国，转入巴黎大学学习。
巴黎的生活费虽比伦敦便宜，但对一个仅靠官费养活五口之家的人来说也实属不易。在给友人信中，刘半农这样写道：“我近来的情形，真是不得了！天天闹的是断炊……留学费也欠了数个月不发……我身间有几个钱时，便买只面包吃吃，没了便算。”穷且益坚，刘半农出国时本来准备研究文学和语言学的，到了国外才知道鱼与熊掌不可兼得，于是忙把文学舍去，专攻语言学。经过一段时间的摸索，决定专攻实验语音学。出国前，刘半农有一个宏大理想，希望从理论上弄清从齐梁以来沈约等人提出的四声原理。此前国人一直知其然不知其所以然。他决心揭开这个千古之谜。巴黎的名胜古迹，他无暇顾及，塞纳河风光他无意欣赏，他几乎把所有的时间都花在了巴黎图书馆里。业余时间，他还得给国内杂志翻译写稿，挣钱养家。他的《扬鞭集》、《瓦釜集》中许多作品都写于这一时期。
实验语音学需要一些记音仪器，记音仪器不仅价贵且无处购买，于是他就自己动手，从废旧市场买来各种材料自己组装。凭着顽强的毅力，他硬是发明了研究语音学必需的仪器音高推算尺和音鼓。法国的博士学位一向要求极严，没有过硬的高水平论文想都别想，所以他一点也不敢马虎。所有的语音实验都一丝不苟，为了用科学的方法测验中国语音的有关数据，光是一篇两百多字的文章，就用了三个月的时间！经过三年的努力，他终于完成了《汉语字音实验录》，首次对四声原理做出了科学的论述：指出决定汉语四声的主要因素是高低。1924年冬天，刘半农终于通过了巴黎大学的各项预试科目，获得了参加国家博士考试的资格。
1925年3月17日，刘半农参加博士学位答辩的日子。这一天，全家人早早地起来了，朱惠给全家准备了丰盛的早餐，又给三个孩子穿上了最漂亮的衣服。赵元任一家和蔡元培夫妇也前来助阵。考场设在阶梯教室，台上坐了一排身穿着深黑色长袍、肩披彩色绶带的巴黎语音学专家。考试分两场，上午口试，接受教授专家的提问；下午做实验示范演示。答辩一共进行了七个小时，最后专家组宣布：“刘先生做了一番惊人的科学工作，经过认真的讨论以后，我们一致认为应该授予他国家博士学位！”一位青年教师给刘半农戴上了圆形的博士帽。仪式结束，刘半农从台上走下来时，已经精疲力竭，几乎被人扶着走了出去。
刘半农的博士论文于1925年获得康士坦丁·伏而内语言学专奖，因成绩突出，刘半农还被吸收为巴黎语言学会的会员。这是中国人乃至亚洲人第一次获得这种法国国家博士学位，刘半农对此十分自得，经常得意地称自己是“国家博士”。寒窗苦读，总算有了扬眉吐气的一天。
“教我如何不想她”
刘半农从法国学成归国，受到北大热烈欢迎。在蔡元培的关心支持下，成立了我国第一个语音实验室。他制订了一个宏大的计划，决定完成一部《四声新谱》、一部《中国大字典》和一部《中国方言地图》。
1917年刘半农翻译英国戏剧《琴魂》，最早采用女性第三人称代词“她”，以取代过去习惯用的“伊”。1918年8月15日周作人在《新青年》杂志第5卷第3号发表史特林堡的《改革》译文，在《前记》中写道：“中国第三人称代名词没有性的区别，很觉不便。半农想造一个‘她’字和‘他’字并用，这原是极好……”后来刘半农去英国留学，又到法国巴黎大学深造，写了一篇《“她”字问题》，寄回国，1920年8月9日在上海《时事新报》副刊“学灯”上发表，文中说：“一、中国文字中，要不要有一个第三位的阴性代词？二、如其要的，我们能不能就用‘她’字……除了‘她’字外，应当再取一个‘他’字（即现在的‘它’字），以代无生物。”首创“她”字应是刘半农的功劳。
有趣的是，刘半农还为此写了一首白话诗，题为《教我如何不想她》：“天上飘着些微云，地上吹着些微风，啊！微风吹动了我的头发，教我如何不想她？／月光恋爱着海洋，海洋恋爱着月光，啊！这般蜜也似的银夜，教我如何不想她？／水面落花慢慢流，水底鱼儿慢慢游。啊！燕子你说些什么话？教我如何不想她？/枯树在冷风里摇，野火在暮色中烧，啊！西天还有些儿残霞，教我如何不想她？”诗写得缠绵婉约，情丝缕缕，令人心软。赵元任教授把这首诗谱成曲子，由百代唱片公司灌制唱片发行，曾风靡一时。而“她”作为第三人称女性代词，更为人们所接受，由此流传开了。据说某青年读诗听歌后想入非非，以为刘半农肯定是位风流倜傥的才子，总想求见，一次在赵元任教授家中会面，发现刘半农竟是一个老头，大吃一惊，脱口而出：“原来他是个老头啊！”惹得大家捧腹大笑。
刘半农也真诙谐，事后还作了一首打油诗：“教我如何不想她，请进门来喝杯茶；原来如此一老叟，教我如何再想她！”
1934年6月19日，刘半农带着学生白涤洲、沈仲章等五人，携带大量语音设备利用暑期前往内蒙和山西一带考察方言和民间习俗。原定计划一个月左右，途经包头、呼和浩特、百灵庙、大同、张家口。此行主要任务是完成瑞典地理学会为纪念瑞典考古学家斯文赫定七十诞辰而征集的论文，同时为他的《四声新谱》和《中国方言地图》补充资料。一路上采访十分顺利，收获颇丰，不料在绥远中学演讲时，被当地一种毒虫咬了一口，不幸感染上回归热，体温一度升到38.5度。就在这种情况下，他还坚持叫来一名学生，亲自记录了他的发音。回到北京后，多方医治无效，于7月14日下午2时病逝于协和医院。时年43岁。
像这样因公殉职的名教授，刘半农差不多要算北大历史上第一人，因此学校破例在其遗体上覆盖了北大三色校旗，以示哀荣。校长蒋梦麟及马幼渔、胡适等北大名教授及全体师生员工几乎都参加了他的葬礼，规格之高据说在北大历史上没有第二人。蔡元培亲自为他撰写了碑铭：“朴学隽文，同时并进；朋辈才多，如君实仅；甫及中年，身为学殉；嗣音有人，流风无尽。”这是对刘半农一生忠实的评价。老友赵元任的挽联是：“十载凑双簧，无词今后难成曲。数人弱一个，叫我如何不想他！”亦庄亦谐，更令人称绝。
“我写的都是骂人的，你敢登吗”
1905年，14岁的刘半农从翰墨林小学毕业，以江阴考生第一名的成绩考取由八县联办的常州府中学堂。同期录取的还有后来蜚声海内外的国学大师钱穆。刘半农天资聪颖，每次考试各科成绩平均都在90分以上，深受学监（校长）屠元博的喜爱。一次，刘半农到屠家拜访，偶然结识了屠元博的父亲屠敬山。屠敬山是远近闻名的史学家，交谈中，屠敬山发现这个少年学子才识双全，可堪造就，于是破例将他收为弟子，此事在当地一时传为佳话。枪打出头鸟，出于嫉妒，有人说他好钻营取巧，这让他心里很不是滋味。他没有理睬别人的造谣，决心用实力证明自己。不久机会就来了。一次，知府到学堂视察，临时出了一道命题作文，想考察一下学生的成绩。结果刘半农又以第一名的成绩再夺花魁，并得到知府亲自嘉奖。这样一来，连原先嫉妒他的人也心服口服。
刚入常州府中学堂第一年，刘半农每次考试几乎都名列第一，被学校列入“最优等”，一时声名大噪。钱穆晚年回忆说：“不三月，寿彭连中三元，同学争以一识刘寿彭为荣。”
就这样，刘半农才子的名声一下子传开了。
刘半农是个典型的江南才子，多才多艺。刘半农去世后，周作人特别撰文回忆说：“其一是半农的真。他不装假，肯说话，不投机，不怕骂，一方面却是天真烂漫，对什么人都无恶意。其二是半农的杂学。他的专门是语音学，但他的兴趣很广博，文学美术他都喜欢，作诗，写字，照相，搜书，讲文法，谈音乐。”