莱州之狱的痛苦遭遇，使顾炎武深刻体会到当时社会的黑暗、人心的险恶。但这次难忘的经历并没有使他颓唐消沉。在此后的数年里，他仍然像以往那样，带着两匹马、两匹骡子，装驮着急用的书卷，不辞艰辛地往返于山东、山西、河南、河北等地，更勤奋地从事于著述。在行万里路、读万卷书后，他产生了一种强烈的责任感，即“明学术，正人心，拨乱世，以兴太平之事。”
顾炎武出狱后，曾因小妹家的几个外甥盛情邀请，而于康熙十年（1671年）、十一年、十二年、十五年几次入京。这几个外甥都先后经科举高中，做了清朝大官。这三位外甥年幼之时，家境并不太好，顾炎武曾解囊扶持，现在当上了大官自然要回报往日之情。另外，他们也有个人的打算。清初发生的文字狱，往往株连甚广，他们担心这位一贯反清的舅舅，在外边惹出大祸，牵连上自己。因此，他们把舅舅接来同住，既尽了孝心，也可减少他与外人的接触往来，少生许多麻烦。
顾炎武出狱之初，很感激外甥的关照和帮助，同时也想借此摆脱官府暗探对他的监视和注意，在高墙大院里过安宁日子。可不久他就体会到，在外甥家这样的环境中，他根本得不到安宁，尤其是心灵上的安宁。他看不惯官场中的黑暗，更厌恶那种阿谀逢迎的官僚作风。他用诗歌表达自己对这种坏习气的深恶痛绝和无情讽刺：“蓟门朝士多狐鼠，旧日须眉化儿女。生女须教出塞妆，生男要学鲜卑语。”因此顾炎武产生了尽快离开这样的生活环境的想法。
清朝的笼络、拉拢政策促使他迅速作出决定。1671年，顾炎武进京，一位与外甥徐元文在朝中共事的大学士熊赐履正在主持编修《明史》，他表示打算推荐顾炎武参加编写《明史》，遭到顾炎武的断然拒绝，并声明如果真要他去做这件事，他就要“非死则逃”。为了摆脱清廷的纠缠，顾炎武谢绝了外甥们的挽留，于1677年带着继子顾衍生，绕道山东，到山西、陕西去了。
实际上，顾炎武从1657年开始就过着游历生活，一直到他病故。正是这种行万里路、读万卷书的特殊生活方式，给中国历史造就出一位杰出的思想家和学者。正是不辞辛劳的万里跋涉和沿途所进行的艰苦细致的实地考察，使顾炎武读社会、自然这本书比别人读得好。因此，他对中国的社会、民情、历史有着更实在、更深刻的认识和体会。
当然，在游历的过程中，他有机会到富有藏书的人家或官府里去查阅各种异书秘籍，这是他完成自己恢宏著述所必不可少的条件和基础。同时，多年在外，特别是北方的漫游生涯，也使顾炎武能够和南北名儒及社会上各有所长的人物结识，从他们那里学到许多知识和本领，和他们坦诚地切磋学问，听取他们对自己著述的意见，如他的《日知录》整个成书过程，都得到朋友与结交的一些学者的不同方面的支持与帮助。此后，在太原，他主持校勘了晋阳刻本荀悦《汉纪》，结识了著名学者阎若璩。在山东德州，顾炎武校订了《德州志》。在济南通志局，他参与了删订《山东通志》中的山川古迹部分。就在这一时期，他把早年所辑录的《肇域志》一书的山东部分，进行了一次全面的修订，以定稿的形式保存下来。
1673年，61岁的顾炎武得知归庄去世的消息，不禁悲从中来，泣不成声，也就是这一年十一月，发生清初有名的“三藩之乱”。所谓三藩，是指清初分封的三个藩王：平西王吴三桂、平南王尚可喜、靖南王耿精忠。他们本是降清的明将，为清兵占领中原立了功，得以封土封王，但因为势力太大，清廷深感尾大不掉，便下了撤藩令，吴三桂等人为保存实力，便起兵反叛。经过大臣们的激烈争论后，康熙帝断然决定派兵平乱。
当时，京城内也发生杨起隆策动起义的事件。北京地区的部队频频调动，一批批往南开拔。战争之初，中央军队节节败退，长江以南，加上陕西、甘肃、四川等地，不是被三藩的军队占领，便是处于战火纷飞之中。
此时的顾炎武，心境很不平静。他一直关注着形势的变化，他知道，虽然当时清军处处设防，但招招落后，军事上极为被动，但局势不一定朝着有利三藩方面的方向发展。因为全国已不会再出现过去反清斗争的那种形势。顾炎武虽仍然坚持反清立场，但因吴三桂很不光彩的历史而对吴三柱存有很多的顾虑和猜忌。所以当吴三桂以复明号召笼络遗民时，顾炎武并没有去投靠三藩，而是躲得远远的。
次年春天，顾炎武怀着前途莫测、对形势变化发展还要观望一下的复杂心情，离京南下，径往山西。当他单人匹马走过华北大地，耳闻目睹北方人民人心思定，社会经济的恢复、发展更需要一个比较安定的社会环境时，他决定不把自己与吴三桂这样的野心家联结在一起。不仅如此，此后他还对三藩之乱给一些地方的经济、人民生命财产造成的破坏，进行了揭露和抨击。由此看来，顾炎武的思想境界又比以前进了一步。他在始终不改变反清立场的同时，已开始摆脱狭隘民族主义思想的局限性了。因此，在权衡一个行动的是非和利害得失时，他能够从整个国家和中华民族的利益考虑问题了。
1675年，顾炎武来到山西祁县，拜访了当地学者、反清志士戴廷轼。戴家的丹枫阁，是当时具有反清思想的士大夫们聚会的地方。戴廷轼常在此处接待各地的反清志士，他很钦佩顾炎武的节操和学问，不仅接待了他，还特意为他在祁县地方盖了一幢书屋。这样，顾炎武便把他近二十年来在各地游历时随身携带的书卷，都收藏在这幢书屋之中。第二年，顾炎武在北京读到了江南著名学者黄宗羲的《明夷待访录》，对黄宗羲在这本书中所提出的对社会问题的见解大为欣赏，以为如能将书中的主张付诸实践，“百王之敝可以复起，而三代之盛可以徐还也”。他致信给黄宗羲，鼓励他终有实现自己政治理想的那一天。他还以“穷则变，变则通，通则久”的哲理，说明社会终究要实现变革的规律，预言“圣人复起”的美好未来一定会到来。在信中，顾炎武还对自己的生活、工作作了一个小结。他指出在经历了长时间的颠沛流离的亡命生活后，他有着丰富的社会经历和知识积累，因此应该在研究“经世致用”方面有所建树和创造。
不过，来自清廷的干扰却没有停止。清甘肃提督张勇欲拉拢顾炎武，使顾炎武等一批文人为己所用，遭到顾炎武的断然拒绝。
清朝随着政权的巩固，为了缓和清初以来汉族士大夫的敌对情绪，在三年举行一次的正科考试外，又增加了“博学鸿科”“经学特科”等特殊的考试来收揽人心。在这些考试中，有些有名望的参试者均被录取，以后又都被授以翰林院的官职，这是清朝的得意之作，曾被称为“得人极盛”。然而，顾炎武以不惜一死的态度拒绝他人的推荐应试和修书聘请，清廷悻悻而罢。
顾炎武还对李因笃在这个问题上所表现出来缺乏原则的态度表示不满和愤慨。顾炎武的态度对朋友产生了一定影响，他的老友傅山和王弘撰也未参加考试。为了摆脱清廷的纠缠，顾炎武从此不再入京。1679年，他由山西向西行，定居于陕西华阴县。