Монастырь построен по инициативе, при деятельном участии и финансовой помощи И. Леонтидиса (Варваци). Место, которое он выбрал, находилось тогда на самом краю города и принадлежало жене капитана второго ранга Сарандинаки, который в конце восемнадцатого века командовал кораблем «св. Кирилл Белозерский», входящим в состав эскадры под командованием Федора Ушакова. После того, как И.А. Варваци приобрел участок земли у семьи Сарандинаки, началось строительство каменной церкви. Место постройки находилось там, где сейчас пересекаются улица Александровская и Лермонтовский переулок.
С разрешения императора Александра I церковь превращается в греческий мужской монастырь с алтарем во имя Святой Троицы и двумя приделами – во имя св. благ. Александра Невского и свт. Иоанна Злотоуста. На основании привилегий ни один русский монах не мог быть зачислен в монастырь.
На постройку храма И.А. Варваци потратил около 600 тыс. рублей и внес сумму на его содержание. Варваци завещал монастырь Иерусалимскому патриархату, который каждые 5 лет назначал служителей храма. Здание построено в стиле классицизм. В рядом расположенном монастырском доме была оборудована церковь во имя святых Козьмы и Димиана.
Из-за недосмотра строителей северная башня монастыря имела наклон, что обнаружили в 1831 году в процессе установки памятника императору. Повторные замеры, выполненные через 90 лет, показали, что наклон не увеличился. В 1881 году монахи провели воду из монастырского колодца для питья для всеобщего пользования.
Церковь греческого Иерусалимского монастыря была выполнена в классицистическом стиле, с четырехколонным дорическим портиком под строгим фронтоном, фланкированным двумя мощными объемами колоколен. Она имела три престола: один был освящен во имя Святой Троицы, другой – во имя св. благ. Александра Невского (в честь императора Александра I), а третий – во имя святителя Иоанна Златоуста – святого покровителя Ивана (Иоанниса) Варваци.
Иерусалимская площадь и монастырь были тесно связаны с именем императора Александра I, скончавшегося в Таганроге 19 ноября 1825 года. С 11 по 29 декабря его тело лежало в этом храме на катафалке под балдахином. Елизавета Алексеевна оставалась в Таганроге до 26 апреля 1826 года. В память о покойном муже пожертвовала монастырю серебряную с позолотой церковную утварь и двадцать тысяч рублей на увеличение капитала, пожертвованного ранее Варвацием. Так же, по желанию императрицы, на том месте, где стоял катафалк с гробом в монастыре, впоследствии установили серую мраморную плиту с врезанным в нее черным мраморным крестом. Все последующие годы в церкви монастыря 19 ноября совершалось поминовение безвременно умершего императора. Еще через пять лет, в 1831 году, перед монастырем был установлен памятник русскому самодержцу, выполненный знаменитым скульптором, ректором Академии художеств И.П. Мартосом. Спустя шесть лет монумент был обнесен чугунными тумбами с цепями, а в 1885 году вокруг него был разбит небольшой сквер, огражденный железной кованой решеткой.
В 1923 году памятник был демонтирован, а позднее переплавлен. В 1926 году закрыли монастырь, а в 1933 году на его месте был построен четырехэтажный жилой дом. Памятник Александру I был восстановлен в 1998 году благодаря сохранившейся в Русском музее гипсовой модели.