中国的火药由来已久，最早是炼丹家在炼丹的过程中发明的。火药的发明，被称为我国古代的四大发明之一。
火药的主要原料正是木炭、硫磺和硝石。我国古代的劳动人民很早就掌握了伐木烧炭的技术。公元前后，人们又在生产中发现了天然硫矿。西汉时期，硫磺、硝石都有了相当数量的采集与应用。
据《神农本草经》记载，硫磺和硝石具有一定的药用作用，能治20多种疑难杂症。于是，有人就把这两种东西和其他的矿物按比例配在一起，然后放到炉里烧，炼成丹药。据说，人吃了这种丹药可以长生不老。唐代初期，炼丹的方士们夜以继日地提炼硫磺、硝石、木炭，想炼出长生不老的“仙丹”。可是谁又能想到，仙丹没有炼成，却炼出了具有爆炸性的火药。
《太平广记》中记载着这样一个故事：隋朝初年，杜子春去拜访一位炼丹的老人，留宿在老人家里。半夜，杜子春被一股刺鼻的气味熏醒，原来，炼丹炉内冒出的紫烟，顷刻间燃烧了整个屋子。从此以后，人们就把硫磺、硝石、木炭称为会发火的药，简称火药。
唐初著名医学家孙思邈在《丹经》一书中，记载了配制火药的方法——“优硫磺法”。即将硫磺、硝石的粉末放在锅内，然后加入点着火的皂角子，就会发生焰火。这是迄今为止发现的第一个有文字记载的火药配方。
在《铅汞甲庚至宝集成》中，唐朝清虚子记载公元808年，“伏火矾法”：把二两硫磺、二两硝石和三钱半的马兜铃研成粉拌匀，放在罐子里。再在地上挖个坑，把罐子放在里面，罐口与地面一样平。然后把燃烧的一块弹子大的木炭，放在罐里，就会逐渐冒起烟来。这样，火药就发明出来了。
火药发明后，立即得到了广泛的利用。到宋代，火药已用于战争。元代，人们在火药的基础上，又发明了火炮和火铳。14世纪，我国火药传入西方，在欧洲开始大规模推广，继而发明出了枪、炮、弹药。
日本兵器史学家马成甫在《火炮的起源及其流传》一书中指出，中国的火药配方至少要比欧洲的火炮发明提早了300年。
