1645年至1654年的十年里，顾炎武一直流亡于大江南北。他蓄发明志，表示对清廷的反抗。他还隐名埋姓，来往于两淮、苏杭之间、联络有志之士，进行抗清斗争。顺治四年（1647年），震惊江南的吴胜兆反清一案，其中就留下了顾炎武的踪迹。这一年，清松江总兵吴胜兆与海上抗清武装联络，图谋起义反清。四月，事情泄露，顾炎武的好友，抗清志士陈子龙、顾咸正及二子等四十余人相继死难。就在出事之初，顾炎武还和顾咸正商讨如何出逃的计划。
顾炎武虽幸免于难，但他听说，昆山劣绅叶方恒，自降顺清朝后，与清朝官府打得火热。这个欺压人民、横行乡里的家伙，这时正在千方百计搜集顾炎武反清的“罪证”，并不断向官府告密，官府已注意起顾炎武的言行举止。为了不引起敌人的注意，顾炎武只好剃去头发，装扮成行商，继续往来于大江南北及太湖洞庭山一带，广泛结交，认识了许多好友，这些人都是坚持反清人士。其中，顾炎武在江北淮安结识的张绍，与顾炎武的交情维持了很长时间。顾炎武55岁时出版《音学五书》，张绍曾帮他查阅《说文》《玉篇》等参考书，还在文字和内容上作了一些增补、修改工作。顾炎武很重视他的意见。
就在这一时期，他还同归庄一起在苏州加入了惊隐诗社。他们经常在一起吟诗寄兴，抒发国家遭变的隐痛，商讨与国家、民族的前途有关的大事。这就是他后来在一首诗中概括的：“悲深宗社墟，勇画澄清计。”他曾写下许多优秀的爱国诗篇。在这些诗中，有对在抗清斗争中壮烈牺牲的亲朋好友的怀念；有对江南人民英勇不屈、舍生忘死精神的讴歌；也有对当年可敬可泣的斗争事迹的记述。
1654年春天，顾炎武来到南京，在钟山脚下“典得山南半亩居”。其时，郑成功起兵海上，张名振、张煌言的抗清部队从长江上行，一直打到镇江，使南京城受到威胁，这时，顾炎武按捺不住自己对抗清部队取得胜利而兴奋的心情，因而成为清政府严加追查的重要嫌疑对象。
1655年春，正当顾炎武为如何摆脱清廷对他的猜疑而煞费苦心之时，老家昆山传来更坏的消息：有人要告他与海上的反清义军或强盗有联系。一旦罪名属实，不仅自己要掉脑袋，还要祸及亲朋好友。扬言要告发他的竟是顾家的家奴世仆陆恩。受劣绅叶方恒的唆使，势利的陆恩叛离顾家。顾炎武得知后，赶回昆山来，暗中约来朋友，决定除掉陆恩这个祸害。叶方恒听说此事后，借题发挥，想置顾炎武于死地。他一面派人窥伺顾炎武的行踪，一面让陆恩的女婿向官府告发，还买通昆山县官府，图谋判处顾炎武重刑。
顾炎武落入叶方恒布下的罗网，被绑架、囚禁于叶方恒的家奴家中。叶方恒对他严刑拷打，企图逼迫顾炎武自杀偿命。顾炎武的处境实在险恶！他的好友归庄等人四处设法营救他。
归庄救友心切，决定求助于正在清朝做大官的钱谦益。钱谦益早年曾是江南文坛的领袖，算得上一代名士，但自从丧失民族气节后，反清志士都不愿与他交往，为挽回声名，有时暗地里也表示不忘故国，愿帮一点小忙，且他和叶方恒是世交，是能帮这个忙的，但他要顾炎武承认是他的门下弟子。归庄等便自作主张，代顾炎武写了个门生帖子。顾炎武知道后，坚决表示不同意，并贴告示到大街上，表明门生帖子之事与他无关。幸好营救顾炎武的路泽溥、路泽浓二兄弟通过松江府守备的帮忙，才使他得以轻判。
1656年春，顾炎武从松江出狱，回到昆山，后到南京。在南京他又一次遭到叶方恒的暗算，并差点丧命，在昆山的故宅也被叶方恒洗劫一空。家庭环境的险恶，叶方恒接二连三的迫害，家难与外侮交相逼迫的处境，使顾炎武无法再在家乡立足了。江南的反清斗争也转入低潮，永历王朝退守西南地区，南明最后一个皇帝朱由榔又懦弱寡断、昏庸腐朽，大权旁落宦官权臣，小王朝内部矛盾重重，已无光复旧国的希望。顾炎武这时有了到北方重新开展反清斗争的想法，因为燕赵多慷慨之士，在1647年出现的抗清高潮中，北方人民也曾举起反清的旗帜。另外，北方是中华民族的重要发源地，保存有众多的文化传统，也产生出数不清的志士仁人、学者、专家。因此，顾炎武决定北上，放眼一观北国风光，同时也结交北方的朋友，继续为民族作出贡献。
1657年春，45岁的顾炎武变卖了昆山的全部家产，向老友归庄等人依依惜别后只身弃家北去，开始了此后20年辗转流徙的游历生涯。
经过长途跋涉，他到山东莱州府住了下来。他沿途作地理考察，曾攀登山东即墨县以南的崂山；他更关心民情，对战争给人民带来的痛苦、给社会造成的破坏，深感愤恨。同时，也流露出他自己对和平、安定生活的向往。
作为一个南方人，初到北方，生活很不习惯。但生活上的不便并没有使他退缩。简单地安顿下来后，他便开始积极活动。在以后的三四年间，他逐渐把自己的活动范围扩大到山东、河北、北京，并结交不愿为清王朝做官的学者，同他们互励气节，研讨学问。
在莱州住了一段时间后，顾炎武来到济南，会见了隐居的反清志士徐夜，帮助徐夜修订山东地方通志。在济南的一个很偶然的机会，顾炎武还认识了张尔岐，张尔岐对《仪礼》很有研究，为人正直勇敢，也曾秘密从事反清活动。自从明亡以后，一直隐居故乡北京，以教书来糊口。互相了解情况后，两人的感情顿时亲近，从此成为很要好的朋友。在山东，他还结交了考据学家刘孔怀和长期研究《左传》、著成长达160卷的《绎史》、人称“马三代”的马辅。同这些学者的交游，开阔了顾炎武的学术视野，使他在经学、史学、文字音韵学等方面都得益匪浅。此外，顾炎武还和当地复社方面的人士建立联系。
1658年，顾炎武由鲁东至泰安，登泰山，赴兖州，到曲阜拜谒孔庙，去邹县谒周公庙、孔子庙。他亲自到鲁西南了解农民起义军榆林军的事迹，然后在章丘县桑家庄典买了一些土地，建立一个小小的庄园，并以此为据点，频繁往来于河北、山东、江苏、浙江之间。
在山东期间，他很注意古文物的研究，曾写成《山东考古录》一卷。还留下一些咏物寄情的诗篇。从这些诗句中可以看出，顾炎武并不是一个漫无目的，只知吟风弄月的旅行家。他有着以天下为己任的拳拳爱国之心。他在一首五言诗《秋雨》中写道：“生无一锥土，常有四海心”，表现了他关心国家、民族的博大胸怀。同时，顾炎武正是通过在“四海”的实地考察，去探求历史衰亡变迁的原因。
在考察了山海关、居庸关、古北口、昌黎、蓟州等地的史事和地理形势后，顾炎武又查阅了有关地方志，然后编成《营平二少州史事》六卷。
在序言中他开宗明义地表明自己著书的目的是为了总结历史经验教训，特别是明王朝为什么囚营、平、滦三州而“至于争地构兵”，最后“亡其天下”。
1659年夏天，顾炎武在山东听说郑成功、张煌言带领义军打到江南，立即兴冲冲地起程南下。其时，郑成功所率17万水陆大军，自崇明岛登陆后，攻势凌厉，沿江而上，一路有如破竹。在一连串胜利的鼓舞下，广大的江南、皖南地区，再一次燃起抗清的烈火，人民群众欢呼雀跃，纷纷响应，反清斗争的形势很好。遗憾的是郑成功被胜利冲昏了头脑，骄傲轻敌，竟屯兵南京城下两个多月，不仅坐失战机，还被敌人奇袭而全军溃败。顾炎武的《江上》一诗记述了这段历史，并总结了义军“不知兵用奇”“屯甲守城下”的失败教训。
郑成功兵败以后，顾炎武随即怅然北归。此时僻处西南一隅的永历朝廷只是在作垂死挣扎了。顾炎武终于看清楚，南明政权气数已尽，断无恢复之望了。从全国来看，反清斗争很难取胜，而且也没有以前的那种势头了。
1662年春，他从山东来到北京，又去昌平谒陵，以表达自己对故国的怀念。但回忆明王朝的种种黑暗腐败的往事，他也有许多感触。通过对这一段历史的反思，顾炎武已经意识到，自己不应为一家一姓的存亡兴衰所约束，明王朝的覆亡既已无可挽回，自己的事业就应放在为国家、为民族争取更光明的前途上，他开始了新的起步，把自己活动的范围扩展到河南、山西、陕西各地。
是年初夏，顾炎武开始了西北之行。在此后的几年里，他不断转移，甚至很少在一个地方停留三个月以上。随他跋涉的有两匹马、两匹骡子，驮着沉甸甸的书籍。他的大部分旅费，不是靠亲友接济，就是靠沿途做点小买卖。顾炎武这种旅行的艰难困苦可想而知。
1663年，顾炎武到了山西太原，住在当地著名学者傅山的农庄。傅庄主学识渊博，是一位思想家、文学家、画家和书法家，还擅长医道，热心为人治病。但他有个怪癖，对南方学者抱有偏见，连宋代大文学家欧阳修、曾巩的文章都不愿读。不过，傅山和顾炎武这个江南学者却一见如故，相处得很好。
通过傅山的介绍，顾炎武结识了山西有声望的学者李因笃等人。李因笃之父为复社成员，他本人也曾在长江中游一带参加反清秘密活动。当时正在山西某知府家塾执教。顾李二人虽在年龄上有差距，却是关系密切的忘年之交。顾炎武曾与李因笃商讨在五台山地区垦荒选田的计划，李帮他借贷资金。顾炎武还向他畅谈自己发展畜牧业、开发矿业、经营商业的一系列计划。同时，他们也是切磋学问的好友。李因笃会诗，诗风效法杜甫，有一些佳作；对于音韵学也有研究，顾炎武的《音学五书》即吸收或采纳了李因笃的一些观点和意见。
随着1662年1月永历皇帝被俘，最后一个南明政权宣告瓦解，到1664年，轰轰烈烈的反清斗争进入尾声，清王朝的统治从此逐渐稳定下来。但为了彻底清除反清思想，强化封建统治秩序，实行专制主义思想统治，清王朝大兴“文字狱”，以某些著作或文章中有反清字句和思想为借口，大肆捕杀文人和无辜百姓。
1663年，正当顾炎武在山西临汾一带漫游时，清政府制造了震惊朝野、影响深远的庄氏明史案。案情是这样的：康熙二年（1663年），浙江湖州富商庄廷龙请人增编《明书》。如实地写了明末天启、崇祯两朝的一段历史，如建州卫与明朝的关系等，被认为是有意反清，庄氏全族和为此书写序、校对以及买书、卖书、刻字、印刷的人等共七十余人被斩杀，还有几百人充军边疆。顾炎武的两个好友吴炎和潘柽章也在这件案子中遇难。
噩耗传来，顾炎武悲愤难抑，提笔展纸写成《汾州祭吴炎、潘柽章二节士》，凭吊惨遭不幸的朋友。诗中既有对亡者的沉痛哀悼惋惜，更有对清廷摧残人才、草菅人命罪行的控诉和声讨。顾炎武意犹未尽，又写了此类主题的《书吴潘二子事一文》。他还让潘柽章的弟弟北上避害，并打破自己不收门生的定例，将其收为弟子。对于死难烈士的遗属，顾炎武和他的朋友们总是尽心尽力给予安抚和帮助。
1664年年初顾炎武再回山东，在章丘县大桑家庄购置了一份田产，打算在这里休整，过一段比较安定的生活。殊不知，横祸飞来，1668年他也被卷进清廷所制造的山东莱州黄培诗狱中。因他置买田产的户主想把他的这些田产再侵吞过来，便诬告顾炎武为已审理三年、有“悖逆”思想的《忠节录》编者，且案子被弄到了奉旨审理的地步，官府发文到昆山追捕顾炎武。
当时顾炎武正在北京，消息传来，他又惊又气。朋友们劝他远走避祸，但他不愿事态扩大和牵连亲友，决定立即赶往济南，去和诬告之人公堂对质。三月初即抵达济南，在德州时他便很果断地把一些很可能被人捕风捉影、招惹是非的信札烧掉，并预先建立狱内外的联系渠道。
顾炎武一到济南就被关进监狱，官府根本不听他的申辩。就这样，他在狱中过了半年多非人的生活。各地的朋友得知他入狱的消息，千方百计加以营救。李因笃闻讯，从山西日夜不停地赶到济南，到狱中探望顾炎武，并为他筹集资金。后来，终于弄清楚顾炎武和《忠节录》并没有关系。当年十月，顾炎武获释出狱。
在经历了这样的磨难后，顾炎武对文字狱带给读书人的种种不幸和痛苦，有了更深刻的体会。但他并没有被清廷的刑具、牢狱所吓倒，面对迫害，仍表示自己的决心：“禀性特刚方，临难讵可改”，“永言矢一心，不变同山河”。
同时，由于莱州之狱所受到的诬陷与迫害，他认为山东跟江南一样，人心惟危，风气日益败坏，于是他改变原先长居山东的计划。