Полковая церковь лейб-гвардии Кирасирского Его Величества полка, в "русском" стиле XVI века, на 900 прихожан. Постройка начата архитектором В. К. Курицыным в 1895 году, завершена Сильвио Данини в 1899 году. Храм возведен на деньги известного благотворителя купца Савинкова. В настоящее время является единственным храмом на территории России, посвященным Иулиану Тарсийскому.
В пещере под храмом был устроен придел во имя Илии Пророка, где находится гробница семьи
Закрыта в 1924 году, пришла в полуразрушенное состояние. В здании располагалась воинская часть. Внутренне убранство храма не сохранилось.
В 1987 году здание церкви было взято под охрану государства как памятник архитектуры.
В 1949 году верующие направили прошение об открытии церкви властям. Прошение было отклонено.
В 1992 году храм был возвращен православной церкви. Началась реставрация.
В 1995 году в ремонтирующейся церкви был совершен первый молебен.