Назван в святом крещении Андреем в честь прп. Андрея Критского. На пятом году жизни Андрей лишился отца, о котором сохранилось у него полное любви воспоминание.

После обучения грамоте Андрей был отдан матерью в ученики аптекарю при больнице в Лыскове. Обладая прекрасным альтом, мальчик состоял в церковном хоре. Приглашенный князем Егором Александровичем Грузинским в домашние врачи и для заведования больницей француз Дебше полюбил Андрея, взял его к себе, учил его средствам врачевания и, умирая, завещал ему все свои книги.

Божие провидение направляло Андрея к иноческой жизни. Особенно сильное влияние имели на него духовные беседы с благочестивой настоятельницей арзамасской Алексеевской женской общины монахиней Олимпиадой.

По указанию явившегося ему во сне прп. Андрея Критского 27 июля 1818 г. А. Г. Медведев пришел в Саров с просьбой принять его в монастырь. Пробыв около полутора лет в Сарове, Андрей вернулся в Арзамас и поступил в Высокогорский монастырь. 27 июня 1822 г. послушник Андрей был пострижен в монашество с именем Антоний.

Вскоре он был рукоположен в священный сан. 20 июля — в иеродиакона, а 22 июля — в иеромонаха.