Впервые храм Козьмодемьянского монастыря упомянут в летописи за 1383 год. Обитель была посвящена этим святым, поскольку они считаются покровителями кузнецов. Псковские кузницы находились у подножия Гремячей горы.
В 1540 году храм был перестроен, в XVII веке к нему пристроили колокольню и притвор. Монастырь упразднили в 1764 году, и церковь стала приходской. 21 год спустя её приписали к Петропавловскому собору.
В 1808 году храм Косьмы и Дамиана хотели снести из-за ветхости, но Святейший синод не позволил это сделать. Однако в 1819 году проведение богослужений в церкви запретили. Почётный гражданин Пскова купец П.М. Стехновский в 1850 году отремонтировали храм за свой счёт.
С 1919 года церковь передали в ведение губернского музея, на следующий год её обследовали учёные. Фашистские оккупанты разместили в храме конюшню. В 1947 году, после обмера церкви, архитектор Юрий Спегальский подготовил проект её реставрации. Частично работы были проведены в 1950 году.
В 1960 году церковь Косьмы и Дамиана с Гремячей горы взяли под государственную охрану. Сейчас памятник истории и культуры федерального значения приписан к храму апостола и евангелиста Иоанна Богослова.
