Этот храм был заложен князем Всеволодом Мстиславичем в 1127 году. Три года спустя он перешёл Ивановской общине купцов-вощаников, которые были самыми богатыми в Новгороде.
В 1453 году церковь разрушили по велению архиепископа Евфимия II, её фундамент и части стен были устроены при строительстве нового храма. При этом был частично повторён облик прежней постройки. В 1934 году церковную колокольню снесли.
В годы Великой Отечественной войны были утрачены кровля, купол и барабан храма Иоанна на Опоках, стены и северная апсида получили пробоины. Восстановление церкви состоялось в 1950-х годах. В настоящее время вход туристам и прихожанам сюда закрыт.