Первые сведения о деревянном костёле Святой Анны датируются 1394 годом. Полагают, что каменный костёл был построен в 1495—1500 годах и освящён 22 мая 1501 года. Когда в 1502 году рухнул расположенный поблизости костёл бернардинцев, монахи проводили богослужения в костёле Святой Анны, но он оставался при этом приходским. Меценатом костёла был великий князь литовский Александр (1460—1506).
Имя создателя костёла доподлинно неизвестно. Существует предположение, что им был архитектор Николай Энкингер из Данцига, восстановивший в 1501—1507 г. ансамбль костёла и монастыря бернардинцев. Искусствовед Кристина Маковска оспаривает это предположение на том основании, что конструкции костёлов бернардинцев и Святой Анны слишком отличаются, чтобы быть созданиями одного и того же зодчего.
По гипотезе К. Маковской, костёл скорее всего построил архитектор Владислава Ягеллона Бенедикт Рейт, автор пражского Кафедрального собора и краковского Вавеля. Сохранились свидетельства о том, что Бенедикт Рейт был послан Владиславом в Вильну вместе с мастером Иаковом, имя которого написано на кирпичах костёла Святой Анны. Архитектор скончался между 1531 и 1534 годом. По заказу Владислава был написан его портрет, который ныне хранится в пражском Кафедральном соборе.