Каменная гауптвахта была построена в 1823-1825 годах на месте деревянной по распоряжению губернатора К.И. Баумгартена. Проект разработал архитектор П.И. Фурсов, сделавший здание частью комплекса центральной площади.
Пожар 1847 года уничтожил ограду гауптвахты и причинил повреждения самому зданию. В 1954 году ограду воссоздали по сохранившемуся чертежу 1834 года, но литые двуглавые орлы над её колоннами воссозданы не были. Декор гауптвахты связан с темой победы в Отечественной войне 1812 года.
Эскизы лепнины выполнил Фурсов, в жизнь их воплотил ярославский мастер С.С. Повырзнев. На фасаде изображены ангелы с вензелем Александра I, щиты, знамёна, арматура. Внутри расположены вестибюль и трёхчастное помещение.
До начала прошлого века в гауптвахте находился личный состав главного караула. Позднее здесь находились губернский музей, городской ЗАГС, библиотека. Сейчас памятник архитектуры, выстроенный в стиле позднего классицизма, отдан под Зал воинской славы Костромской области. Неподалёку расположена пожарная каланча, составляющая единый ансамбль с гауптвахтой.
