Теплая церковь в честь иконы Божией Матери «Живоносный источник» при Воскресенском соборе была построена в 1794 году на месте старого, тоже каменного, храма. Архитектура ее носит характер переходный от барокко к классицизму, с колокольней, сохранившей барочный силуэт.

Она построена в виде корабля и представляет собой удлиненный прямоугольник с полуциркульным выступом на восточной стороне, на месте алтаря. Здание венчается посередине кровли деревянным восьмигранным фонарем с таким же шатром и позолоченным четырехконечным крестом. Потолок, соединенный арками, поддерживается восьмью колоннами, идущими по четыре в ряд, посередине храма. С северной и южной сторон расположены две двери, ведущие в храм.

К западной стене зимней церкви примыкает колокольня, построенная в три яруса. Колокольня с южной и северной сторон окружена папертями храма и таким образом соединена с ним.

Главный престол церкви освящен в честь иконы «Живоносный Источник», два малых – в честь Архистратига Михаила, преподобных Сергия и Германа Валаамских. Резной иконостас выполнен арзамасскими мастерами Митрящевыми. В храме находится редкая икона «Собор Пресвятой Богородицы».

По воспоминаниям старожилов Арзамаса, на колокольне находились городские часы. Так местный житель А.С. Потехин вспоминает: «...циферблата они не имели, но производили бой в разные колокола, отбивая минуты, четверти часа и часы… Этот бой далеко был слышен в городе. Жаль, что теперь такие часы не восстановят. За соборными часами наблюдал соборный сторож, известный под именем Елизарыч, по торжественным праздникам важно шествовавший по городу с медалью на шее, всегда одетый в длиннополый черный сюртук».

В 1910 году на средства купца Д.А. Сурина в храме было проведено водяное отопление, в первой из городских церквей.

Соборные здания с трех сторон – восточной, северной и западной – были окружены железной оградой, которая впоследствии была снесена.

Здание занесено в список памятников градостроительства и архитектуры федерального значения.