Изначально монастырь представлял собою своего рода крепость. Он был обнесён деревянной стеной с несколькими башнями.
С 1833 по 1839 г. вокруг монастыря была возведена каменная ограда. Главные Спасские ворота монастыря, также каменные, выходили на юго-запад. К ним вела Монастырская улица (сейчас застроена).
Спасские ворота находились примерно там, где сейчас расположен выставочный павильон со скелетом гренландского кита.