函谷关是中国历史上建置最早的雄关要塞之一，最早在春秋战国时代由秦国所建，地处“长安古道”，紧靠黄河岸边，因关在谷中，深险如函，故称函谷关。在漫漫历史长河中，这里以名人（老子）、名著（《道德经》）、名关（函谷关）流芳青史，声播海外。
这里西据高原，东临绝涧，南接秦岭，北塞黄河，是东去洛阳，西达长安的咽喉，“一夫当关，万夫莫开”，素有“双峰高耸大河旁，自古函谷一战场”之说，自古为兵家必争之地。
战国时，除秦以外的其余六国曾联合对抗秦国，但秦国凭借函谷天险，成功抵御住六国联军的攻势，使六国军队“伏尸百万，流血漂橹”。秦始皇六年，楚、赵、卫等五国军队犯秦，“至函谷，皆败走”。由于函谷关易守难攻，秦朝末年各地起义抗秦后，新立的楚怀王为尽快平息战乱，宣告谁先入关中，谁就为关中王，此处所提的关即函谷关。之后刘邦先入关中，不过并非直入函谷关，理由是函谷关易守难攻，加上关内即是秦的首都咸阳，护守函谷关的秦军必是精锐，为避免攻坚，刘邦接受张良的建议绕道进入关内。不过，项羽不满刘邦先入关，设下鸿门宴，但又不愿违逆楚怀王当初的宣告，因此在册封时将刘邦封为巴王，之后封为汉王。虽然巴、汉两地也属关内（函谷关以西），但当时为未开化的不毛之地，是秦朝专门用来流放罪犯的地方。不过刘邦仍然在汉中成功积蓄力量，最终在楚汉相争中战胜了项羽。
东汉末年群雄起兵讨伐董卓，董卓强行将汉献帝从洛阳迁到长安时，就以函谷关坚固易于防守为理由。此后两千年间，地势险要的函谷关常常成为军事争夺的对象，包括唐代安史之乱时唐官军与叛军的“桃林大战”，1944年中国军队与日本侵略军的“函谷关大战”，都是在这里进行的。
实际上历史上的函谷关有三处，除了上面说的春秋战国时期建的函谷关（即今通称的秦关）外，还有汉关和魏关。
汉关，在今河南省新安县东，西距秦关150公里。据灵宝市志记载，自汉室兴起后，关中作为帝都，函谷关以东则称关外。人们都以自己是关中人为荣。楼船将军杨仆，原籍函谷关以东的新安县，别人说他是关外人，他深感不快，就尽捐家资，于汉元鼎三年（184）在新安县城东修起一座雄伟的城池，人们称它为汉函谷关。有了这座新关，杨仆也就成了关中人了。
魏关，位于灵宝市东北，距秦关约5公里。相传三国时，曹操西讨张鲁、马超，为了迅速转运兵马粮草，命许褚在那里开凿隧道，筑起关楼，距秦关不远，故称新关。后来成为东达洛阳，西接长安的重要交通干线。抗日战争时城楼毁于兵火。