Это здание было построено в конце XVII столетия и до 1864 года принадлежало семье Гончаровых. Именно здесь 18 июня 1812 года родился Иван Александрович — будущий знаменитый писатель.
Сейчас нельзя увидеть, каким был дом изначально: в конце XIX века к нему сделали краснокирпичную пристройку, добавили третий этаж и расширили окна. Старый дом был облицован новой кладкой с фигурным кирпичом. Мемориальную доску в честь 95-летия Ивана Гончарова установили в 1907 году на средства купца А. Юргенса. Она была изготовлена из чёрного шведского гранита в Санкт-Петербурге.
Башня с часами над крышей появилась не так давно — в 1947 году. В 1982 году здесь был открыт Историко-литературный музей И.А. Гончарова. Его сотрудники собрали коллекцию подлинных вещей писателя, его семьи и окружения. Историко-мемориальный центр-музей И.А. Гончарова работает каждый день, кроме понедельника и первого вторника месяца, с 10:00 до 18:00.