Существовало несколько проектов герба Железноводска. Были выпущены значки с такими гербами. Официально не утверждены.

Использовано изображение герба из книги Н.О.Миронова "Каталог современных гербов городов стран содружества на значках", Минск, 1995.; предоставленное В.Марковым (Санкт-Петербург).

Городской герб утверждался Постановлением главы администрации города Железноводска №612 от 16 августа 1995 года (отменён в 2002 году).

Использованы материалы книги Н.А.Охонько "Символы малой Родины".

24 мая 2002 года Решением №217 "Об утверждении Положения о гербе города Железноводска" был утверждён новый герб города. Согласно новой редакции Положения о гербе:

"Герб города Железноводска представляет собой геральдический щит, поделенный по вертикали и горизонтали на четыре равные части. В правой верхней части (здесь и далее орографически лицом от зрителя) помещен герб Кавказских Минеральных Вод. Слева от герба Кавказских Минеральных Вод на золотом фоне изображена гора Железная зелёного цвета и над нею - белая четырёхконечная звезда.
Справа внизу на золотом фоне расположена чаша с бьющими вверх струями минеральной воды.
В левой нижней части на лазоревом фоне размещена эмблема медицины (змея с чашей) золотого цвета".