В 1740-е годы в Арзамасе построили каменный храм Ильи Пророка на месте деревянного. Его сооружение спонсировали прихожане церкви. До 1744 года архимандрит арзамасского Спасского монастыря Иоасаф освятил главный престол храма в честь Успения Богородицы. Два года спустя строительство было полностью завершено.
В 1840 году Матфеевский придел переосвятили в честь Воздвижения Креста Господня. До начала ХХ столетия в храме сохранялся резной иконостас.
В декабре 1930 года Ильинскую церковь отобрали у православной общины и открыли в ней общежитие и мастерские Дорожного строительного участка. В 1932-1935 годах здесь был устроен склад Заготзерна, до 1956 года — гараж Автогужтреста. 26 октября 1960 года в бывшей Ильинской церкви состоялось открытие исторического музея. В 2014 году храм был передан Нижегородской епархии.