说起来令人难以置信，高射炮是由打气球发展起来的一种对空射击武器。
19世纪下半期，西欧各国资本主义迅速发展，随之而起的此起彼伏的争夺战争。1870年7月普法战争爆发。这一年的9月，德国派重兵包围了法国首都巴黎，切断了它同外界的一切联系。
法国政府面临如此困境，为了突破重围，决定由内政部长乘气球飞出城区，与城外取得联系。10月初，内政部长坐在气球上成功地越过了德国军队的防线，到达距离巴黎200多公里的都尔城。他在那里进行宣传和鼓动，很快组织起新的作战部队，并通过气球不断与巴黎政府保持联系。
德军发现了这一情况，立即研究对策，认为应该首先击毁为敌方传递信息的气球。于是就下令制造专为打气球的火炮。不久，这种炮就造出来了。它的口径为37毫米，装在可以灵活移动的四轮车上。
为了追踪射击飘行在空中的气球，由几个士兵操作火炮改变它的位置和射击方向。这门炮还真打下了不少气球，它由此得名“气球炮”。
20世纪初，飞艇和飞机相继升上天空，大大扩展了人类的活动范围，也实现了人们多少年来飞向蓝天的美好愿望。有远见的德军将领们根据当年法国人乘气球突破他们严密防线的经验，预感到飞机和飞艇在以后战争中的作用，于是就组织人员研究制造对付这些飞行工具的专用火炮。
1906年，德国一家军火公司根据飞艇和飞机的特点，以及它们与气球的差别，对原来的“气球炮”进行了改进，制成了一门射击飞艇和飞机的50毫米火炮。这标志着世界第一门高射炮正式问世了。
这门高射炮的样子很像现在的双联高射机枪，带有防护装甲，装在四轮汽车上。它的口径为50毫米，最大射程为4200米。
此后，德国还先后研制了两种高射炮，性能都比第一门有所提高。例如1914年制造的77毫米高射炮，具有简单的炮盘，装在带四个轮子的炮架上，与现在的牵引式高射炮已经比较近似了。
高射炮的发展，是与飞机的作战性能不断提高密切相关的。例如在第一次世界大战末期，出现低空攻击型飞机之后不久，德国就研制了一种能对付这种飞机的连续发射的小口径高射炮。到第二次世界大战结束时，随着飞机的迅速发展，高射炮也不断地得到改进和更新，这主要表现在炮的发射速度加快、炮管进一步加长、采用了光学瞄准具，并以动力代替手工操作。有的炮还配备了机械式指挥仪、测距机和雷达，大大提高了高射炮的作战性能。
20世纪50年代中期，出现了飞得快、飞得高的喷气式战斗机，对此高射炮就显得无能为力。譬如美国于1955年装备部队的B—52喷气式轰炸机，飞行高度已达16000米高的同温层，而口径最大的130毫米高射炮，有效射高也只有13000多米，连飞机的影子都打不着。因此，高射炮有被防空导弹取代的可能。有些国家匆忙地将高射炮从军队的编制中撤去了。
但是，60年代以后，飞机为了躲避导弹和雷达侦察，采用了低空出航和低空攻击等战术，又使导弹望机兴叹，无可奈何。而灵活快速的小口径高射炮，这时却成了对付低空飞机的有效武器，而且还能保护防空导弹不受敌机袭击。于是，高射炮又重新崛起，并和防空导弹相互配合，发展成为现代新型的高射炮。