1865 yılında İstanbul’da veba salgını yayılmaya başlamış ve yerleşim yerlerinin yakınında bulunan mezarlıklara gömü yapılması yasaklanmıştır. Bu nedenle, Rum ve Ermeni cemaatleri için devlet tarafından geniş bir alan, mezarlık olarak kullanılmak üzere tahsis edilmiştir.

Şişli Ermeni Mezarlığı da 1865 yılında günümüzdeki yerinde kurulmuştur. 1893 yılında mezarlığın girişinin iki yanına görevliler ve din adamları için binalar yapılmış, 1903 yılında Patrik Mağakya Ormanyan ve Mihran Kalfa’nın tasarladığı kemerli bir kapı eklenmiş ve idari binalar yenilenmiştir.

Mezarlık içerisinde etkileyici anıt mezarlar ve mezar taşları bulunmaktadır. Mezarlıkta devlet adamları ve siyasetçilerin yanı sıra ünlü müzisyen ve sanatçıların da mezarları yer almaktadır.

Mezarlık içerisinde yer alan kilise çokgen planlıdır. Yapının cephelerinde süslemeye yer verilmemiş olup cephelerde kemerli şeritler bulunmaktadır. Yapının giriş bölümünde iki adet sütun yer almaktadır. Yapının kubbe kasnağının üzeri piramidal külahla kapatılmıştır. Külahın üzerinde haç işareti yer almaktadır. Kubbe kasnağında yuvarlak kemerli bölmeler bulunmaktadır. Bu bölmelerin bir kısmı pencere olarak kurgulanmıştır.