Церковь Ивана на Опоках построена в 1127-1130 годах князем Всеволодом Мстиславичем, который специальной грамотой передал ее Новгородским купцам, так называемому «Ивановскому ста». При церкви существовал купеческий суд во главе с Тысяцким, который разбирал тяжбы по торговым делам. Церковь также являлась своеобразной палатой мер и весов.
Здесь хранились эталоны, «локоть ивановский» для измерения длины сукна, «гривенка рублевая» для взвешивания драгоценных металлов, «скалвы вощаные», весы и другие образцы.
Существующая церковь относится к 1453 году, когда первоначальная была разобрана и по повелению архиепископа Евфимия на старой основе с использованием фундаментов и части стен была возведена новая с повторением прежнего архитектурного облика.
Архитектура церкви Ивана на Опоках является переходной в истории Новгородского зодчества. С одной стороны сохраняются традиции парадного княжеского строительства начала XII века, с другой намечается тенденция к сокращению объема и упрощению архитектурных форм. В плане это шестистолпный храм с тремя апсидами, щипцовым покрытием над каждым полукружием, оформляющим фасады. Пилястры на фасаде соответствуют внутренним членениям. Гладь стен с узкими окнами придает зданию суровую простоту. Завершается сооружение одной главкой, ранее их было больше.
В 1934 году была снесена церковная колокольня. Во время Великой Отечественной войны церковь значительно пострадала, полностью утратив барабан, купол, кровлю, получив пробоины в стенах и северной апсиде. Восстановлена в середине 1950-х годов.