榴弹炮是火炮家族中的“老大哥”。15世纪时，在欧洲战场相继出现了一种炮管较短，发射石霰（xiàn）弹的滑膛炮，这就是最早的榴弹炮。后来，随着火炮的发展，人们给各种火炮起了不同的名字。由于这种火炮能够发射用于杀伤敌方作战人员、破坏敌防御工事和其他设施等的榴弹，人们便把它称为榴弹炮。
最初的榴弹炮是发射一种石头制的“开花弹”，它是把大圆石头的中间掏空，里面装上炸药，并安上信管，用以杀伤敌人和破坏敌方的防御设施。后来，榴弹炮开始采用一种带木制信管的球形铁制或铅制爆破榴弹。这种弹威力较大，能破坏敌人坚固的石质工事。
以后，英国什拉波聂里等人又研制成功了球形榴霰弹、群子弹等炮弹。它是在球形榴弹内预制许多破片或铁球，炮弹爆炸后高速飞出成群的破片和小球杀伤敌人，从而使榴弹炮的威力有了显著的提高。
球形爆破榴弹和榴霰弹的杀伤面积较大，适合于杀伤敌人有生力量，也可用来攻城和破坏障碍物后的工事等目标。因此，榴弹炮多被各国军队用来装备攻城部队和要塞炮兵，后又多用于野外交战。
为了增大火炮的威力，19世纪中叶，意大利人研制出世界上第一门发射长圆柱形弹丸的线膛炮，从而使炮弹威力、火炮射程和射击精度等大为提高。到19世纪后期，各国普遍把榴弹炮由前装滑膛炮改为从炮尾装填炮弹的后装线膛炮，而炮弹也由球形爆炸弹变成了长圆柱形炮弹。发射出的炮弹在空中能高速旋转，以保持飞行稳定。
首先改用后装线膛榴弹炮的是奥地利和英国。1859年，这两个国家就把后装青铜线膛榴弹炮装备于野战炮兵中。改为线膛榴弹炮后，火炮射程增大了1～15倍，射击精度提高了4倍以上。在1866年的奥普战争（奥地利和普鲁士之间的战争）中，后装线膛榴弹炮充分显示了巨大威力。
1897年，法国人发明了反后坐装置，榴弹炮的结构由钢性炮架转变为弹性炮架，从而使榴弹炮的发射速度大为提高，成为当时作战中使用的速射炮。第一次和第二次世界大战中，榴弹炮被参战各国广泛采用，并发挥了巨大的作用。
