В 1804-1812 годах в Муроме на месте сгоревшей деревянной церкви построили Смоленский храм. Деньги на его строительство выделил местный купец М.И. Елин. В 1832 году к храму пристроили колокольню, шесть лет спустя — трапезную со Скорбященским приделом.
В 1840 году прихожане приобрели для церкви 200-пудовый колокол. Когда в 1868 году обрушился шатёр расположенного поблизости Косьмодемьянского храма, иконы и утварь из него перенесли в Смоленскую церковь. После этого её стали называть и «Ново-Косьмодемьянской».
В 1922 году из него вывезли больше пуда серебряной утвари — якобы для помощи голодающим Поволжья. Через восемь лет восемь муромских церквей, в том числе Смоленская, были закрыты. В 1977 году в храме началась реставрация, после которой внутри открыли выставочный зал краеведческого музея.
21 июля 1995 года в шпиль колокольни ударила молния, что привело к пожару. Месяц спустя церковь была возвращена верующим. В августе 2000 года пострадавший от молнии шпиль восстановили, а храм получил статус городского собора.
