Каменный дом на Соборной улице был приобретён у генеральши Куприяновой в 1832 году. В него переехали двухклассное приходское училище и уездное училище. В 1885 году в здании обустроили домовую церковь в честь святой Троицы на средства, пожертвованные купцом Ефимом Шалагиным.
В 1920 году в здание Духовного училища переехала школа №2. В 1992 года ей присвоили статус гимназии, в 1998 году — имя академика Ивана Петровича Павлова. Нобелевский лауреат в 1860-1864 годах учился именно в этом здании. Другой лауреат Нобелевской премии, писатель Александр Солженицын в 1957-1962 годах вёл здесь уроки физики и астрономии.