1894年3月，为准备第二年的会试，梁启超风尘仆仆来到了向往已久的古都北京，下榻粉坊琉璃街新会会馆。这时的北京，乍暖还寒，却已焕发出一派春的生机。然而北京城内腐败的政治，危机四伏的国难，却让人感到彻骨的寒冷、凄凉。无情的政治斗争很快就把初涉政坛的维新志士卷入了斗争的波澜之中。康有为的讲学和著述，他的一整套变法维新理论的传播，虽然在不少知识分子中产生了巨大和广泛的影响，但同时也引起了顽固派的仇视。1894年8月，给事中余晋珊上书朝廷，诬称康有为“惑世诬民，非圣无法”，请求缉拿康有为，焚毁《新学伪经考》。顽固派首领慈禧太后立即诏令当时的两广总督李瀚章查办。梁启超闻讯后，万分着急，立即四处奔走，设法营救。他找到沈曾植、曹广钧等官吏，上下运动，为康有为开脱，最后通过当时的名流张謇，找到光绪帝的老师翁同北，得到疏通才幸免于难。但广东李瀚章还是要康有为自己焚毁著作，严禁《新学伪经考》流传。这次小小的政治风波，是清廷顽固派与以康有为为首的改良派之间巨大冲突的前兆，激情满怀而又想有所作为的梁启超感到变法的艰难，前进道路上等待他的是无情的政治斗争的漩涡。
1894年8月，中日甲午战争爆发，清军节节败退。9月初平壤一战，清军失去朝鲜。日军越过鸭绿江，入侵辽东；10月里，黄海大战清军又遭失利。北京城里舆论大哗。在这亡国危险迫在眉睫的时刻，以慈禧太后为首的当权派，却依然歌舞升平、醉生梦死，忙着为慈禧的六十大寿庆祝。梁启超目睹清廷政治的黑暗，亡国的危险，心急如焚，而他除了吟诗以外，无法实现自己忧国忧民的报国理想。
11月，梁启超怀着悲愤的心情返回广东。1895年3月，梁启超、康有为等到北京会试。这次会试，康有为中进士第八名，梁启超却名落孙山。据传当时主持会试的主考徐桐，副主考李广田、启秀、唐景崇都是极端顽固守旧分子，最痛恨维新之论。凡是像康的卷子一律弃之，梁启超的考卷充分发挥今文经学的“微言大义”，充满了“非常异义可怪之论”。考官们毅然断定这是康有为的试卷，决定不予录取，而康真正的卷子却顺利通过。当时阅卷的李广田对梁启超文章的气势和文采十分赏识，于是在试卷末页批上：“还君明珠双泪垂，恨不相逢未嫁时！”
这次考试的落榜，梁启超并没有感到十分不快。这时的梁启超已把科场的胜负看得淡如浮云。他把满腔的热情关注到祖国的前途和维新变法的事业上去了。
1895年春天，中日战争使北洋水师全军覆没，4月中旬，李鸿章签订中华民族奇耻大辱的“马关条约”的消息传到北京，当时参加会试的举人们立即沸腾了，决心抗争。康有为即刻要梁启超串联鼓动各省举人上书。梁启超四处活动。4月22日，以康、梁为首的广东、湖南两省举人首先联名上书，要求拒签对日和约，同时还鼓动朝官出面。5月1日，康、梁邀集18省120多名举人在松筠庵集会。康有为在会上发表了慷慨激昂的演讲，大家一致通过了康有为上书朝廷的建议，并公推他为奏议起草人。康有为奋笔疾书，向清政府提出了“拒和”、“迁都”、“变法”的三项建议。这就是震动朝野上下、名垂史册的“公车上书”。这次运动，声势浩大，开创了中国历史上知识分子集体上书，抗议政府的新格局，第一次显示了维新派在舆论上的力量，引起社会各方面的重视，获得了广泛的同情。“公车上书”的历史意义是深远的，它唤醒了中国数千年未醒的大梦，是一代青年人爱国、求变革，奋发向上的思想的反映。上书的各省举人回乡后，对各地民智的启迪也发挥了很大的作用。
康、梁经过公车上书，都认识到要发动维新变法，必须要有一个组织，即他们的“合群”。要建立组织，必须从制造舆论开始。1895年8月，正式创立宣传维新变法的刊物《万国公报》，附《京报》发行，每天送千余份给各王公大臣，不收报费。这一做法是梁启超的“欲开民智，先开官智”的维新思想的具体体现。《万国公报》除介绍西方资本主义国家的政治、经济、文化、史地、风情和转录一些消息外，主要宣传富国强兵之道，极力鼓吹维新变法，以期获得社会各界的同情和支持。
报纸出刊发行后，收到了很好的舆论宣传效果。11月，经过康、梁的多处活动，筹集经费，于北京宣武门外的后孙公园正式组织起“强学会”。会员除康、梁等维新派外，还有陈炽、文廷式等以光绪帝为靠山的帝党官员以及袁世凯和徐世昌等投机分子，共20多人。从成员上看，强学会是极复杂而松散的。
强学会的章程集中地反映了梁启超的维新思想。其活动主要有四项：一是定期集会，宣传变法，振兴朝廷；二是购置图书，设图书室。梁启超十分注重开风气和启迪民智。他认为开民智，提高国民素质，才能建立强大的国家。他购买一批介绍西方的书籍，供王公大臣们阅读，以广见识，去成见，达到“先开官智”的目的。三是译书；四是办报。1895年12月，康梁将《万国公报》改为《中外纪闻》出版，内容比原来更加丰富、系统完善。综合看来，强学会是集合一批志士仁人，协助清廷改革变法，活动也主要集中于精神文化方面，绝没有丝毫危害清王朝统治的意图。但是仍为封建顽固派所不容，强学会受到弹劾。
康有为被迫离京避难，北京的强学会由梁启超主持。康有为到上海后，和梁鼎芬一起组织上海强学会，江浙一带的维新名士纷纷加入。维新运动出现一派生机。但是顽固派是绝对不能允许对其不利的团体存在的，也不能忍受维新派鼓吹与他们的专制相对立的理论。1896年1月，清政府下令解散两地强学会，许多会员闻讯后仓皇失措。就这样，康、梁辛辛苦苦建立的维新团体和刊物转瞬间就荡然无存。
强学会解散后，梁启超深感变法维新的艰难，他认为主要是风气未开，于是他决定把注意力转向办报上。
1896年3月，梁启超应康有为之召到上海办报。与黄遵宪、汪康年等利用强学会余款作资金，创办《时务报》。8月正式创刊，汪康年任总经理，梁启超任主笔。在他们周围团结了一大批维新志士或同情维新派的名流学士作为撰稿人。《时务报》宗旨是开民智，求自强，尤其注重中外时事的介绍。《时务报》内容新颖，反映民众呼声，敢于抨击时政，一时成为风靡全国的报刊。梁启超利用这一报纸作为维新派的喉舌，较全面地宣传自己的变法思想和改革措施，一时间梁启超名声噪起。
此时的梁启超刚二十三四岁，精力旺盛，才华横溢，再加上他敢说敢写，符合当时人们的心声，在许多比较清醒的知识分子中引起深刻的共鸣、巨大的反响。梁启超的文章具有敏锐的洞察力、深刻的见解和优美精彩的文字，自然能吸引广大的读者。梁启超日夜辛劳地为办好《时务报》而工作，亲自撰文、编排、校对。随着《时务报》的广泛发行，梁启超也名声大噪，“通邑大都，下至僻壤穷陬，无不知有新会梁氏者”。据传1897年初，梁启超往武昌拜谒张之洞，当时的张之洞为坐镇一方、手握重权之封疆大吏，在整个清廷官僚中也是颇有实力和影响的大人物。但一听梁启超求见，极为高兴，破例开武昌城中门来迎接，还问属下能否鸣礼炮。当属下告之梁为一小小举人，按理只有迎接钦差和督抚时才可开中门并鸣炮。张之洞只得作罢，以厚礼迎梁入城。梁启超拜见张之洞那天，恰逢张的侄儿娶媳妇，贺客盈门。但张之洞丢下宾客，与梁启超彻夜长谈，张诚心邀梁出任两湖时务院长，月薪一千二百金，为梁婉言推却。
梁启超为张之洞礼贤下士的行为而感激不已，对张之洞寄予希望。他哪里知道，张之洞欣赏的只是他个人的才华，而对他在《时务报》中的非分之论早就不满，对康、梁的维新主张也是反对的成分居多。张曾授意任过其幕僚的汪康年干预梁启超在《时务报》的言论，《时务报》内部开始出现裂痕。1897年夏，汪梁之争日趋恶化，梁启超感到无法再呆下去，恰好黄遵宪调任湖南按察使，湖南的维新运动蓬勃发展，谭嗣同等人正筹办时务学堂，黄遵宪等即致信梁启超邀请他出任中文总教习。11月，梁启超由沪赴湘。
湖南巡抚陈宝箴，在各省巡抚中算是最开明的，具有一定的维新倾向，较为支持维新派。他敢于启用一些变法维新的士子，充分地相信和任用他们去举办新政。陈宝箴办时务学堂，是图开通湖南风气，培养有用人才。推行新政，主要是研究西学，效法日本，探求“攘夷之道”。湖南维新运动如火如荼的景象深深地吸引了梁启超。
梁启超从上海抵达长沙时，时务学堂已招收了40名学生，建立了图书资料室，购买了一些教学仪器。由熊希龄任提调，西文总教习是李维格。谭嗣同、唐才常、黄遵宪等都积极地参予到各项工作中来。梁启超亲手制订《学约十章》强调学以致用、全面发展，学习是为了救亡图存和变法维新。梁启超运用康有为当年办万木草堂的经验，把湖南时务学堂办成当时最负盛名的一所学校。
此时的梁启超刚24岁，风华正茂，他积极地操劳于教学工作，给学生的批语有时上千言。在时务学堂这块自由的天地里，梁启超的思想渐趋于激进，他通过教学活动，大力宣传变法维新的理论，广泛地介绍西学，对封建顽固的旧学大加批驳，对清王朝的腐朽统治进行无情的揭露和抨击。
时务学堂开办之后，共招考三次，收学生200多名。在梁启超等人的谆谆教导下，这些学生不仅学到了新知识，思想也发生了巨大的变化。这些年轻气盛，求知欲旺盛，易于接受新鲜事物的青年，为梁启超的学识和激进的维新思想所折服，并逐步接受了梁效法西方、改革内政的主张。这些不怕邪恶的青年学生，还把梁的思想向外传播。通过时务学堂，梁启超等维新派培养了一批出色的人才。如：唐才常等“庚子六君子”，李炳寰、林圭、蔡锷等。时务学堂的开办，直接推动了湖南的维新运动，对全国也产生了深远的影响。
梁启超在为维新变法摇旗呐喊的同时，他也认识到需要建立一个有影响有实力的维新知识群体。为此，梁启超四处奔走，结交一大批志士仁人，试图造就一个革新势力。他结交的志士有四五十位，尤以夏曾佑、谭嗣同、黄遵宪与梁最为要好，这些人都为梁启超推动变法增添了力量。他在上海、两湖等地的朋友中，有知识分子、出版商、企业家，还有官僚、政客、买办及各界名流，这对他的维新事业确实也有很大的帮助。
从1896年到1898年百日维新前，梁启超将他的全部精力都投入到维新活动中。1897年冬，在他的多方努力下，于上海创立了大同译书局，广译外国图书。大同译书局出版了大量中西文化书籍，为维新运动作了舆论准备，为民智、风气的开发提供了精神食粮，在维新运动中发挥了重要的作用。
1897年，梁启超与汪康年、麦孟华等在上海成立不缠足会。同时在谭嗣同、经元善等人的支持下，在上海创办了女子学堂，积极地从事一些开风气的社会改良运动，梁启超认为女子文化素质的水准往往决定着一个民族的风貌，女子的聪明才智被开发，达到较高的文化层次，则中国民智随之开化了。他积极地呼吁解放妇女，提高妇女地位。梁启超发动的不缠足运动迅速得到广东、福建、湖南等地的响应。在进行这些社会改良事业的同时，梁启超还同黄遵宪等一起倡导“诗界革命”，要求诗歌从为封建帝王歌功颂德和描写风花雪月中解脱出来，为改良主义的事业服务。在他们的倡导和亲自实践的带动下，我国诗坛的风气出现了大的变化。
戊戌变法之前，梁启超一直在为维新变法奔走呼告。在康有为、梁启超等人的组织、推动和影响下，全国出现了蓬蓬勃勃的新局面，社会风气为之一变。中华大地出现了一线生机，为维新派登上政治舞台打下了良好的基础。