Il XIX secolo fu un periodo di importanti sconvolgimenti per la comunità cattolica armena, allorché un gran numero di suoi membri fu forzatamente trasferita in varie regioni del Caucaso, nel sud della Russia, in Ucraina e altrove.
Nel 1850 fu eretta l’Eparchia Armena di Artvin per il servizio dei fedeli armeni che si trovavano nella Turchia settentrionale e nel Caucaso, mentre i cattolici armeni che vivevano sul territorio dell’Impero russo erano soggetti alla giurisdizione ecclesiastica di Tiraspol (Ucraina).
Nel 1909, il Rev.do Sarghis Der-Abrahamian fu nominato Amministratore Apostolico per i cattolici di rito armeno del Caucaso. La sua fu una benemerita azione pastorale.
Durante l’Unione Sovietica i fedeli armeni subirono grandi rappresaglie, che arrivarono fino alla repressione per quelli che vivevano in Georgia e in Armenia. Con la caduta del regime sovietico, il 13 luglio 1991, la Santa Sede eresse l’attuale Ordinariato con sede a Gyumri, dove sorge la Cattedrale dedicata ai Santi Martiri.