В 1770–1776 годах в местечке Кривичи был построен монастырь католического ордена тринитариев, а при нем костел, освященный во имя святого Андрея Первозванного.
Интересно, что монастырские постройки возвели из дерева, а вот храм было решено поставить каменный, чтобы он служил долгие века. Местные шляхтичи выделили средства на постройку святыни, так она и сохранилась до наших дней, хотя монастыря в Кривичах нет уже с 1832 года. О бывшей обители сегодня напоминает лишь примыкающий к костелу компактный двухэтажный корпус, в котором живет ксендз.
Костел Святого Андрея является памятником архитектуры барокко. Его территория обнесена каменной оградой, включающей в себя трехпролетную кирпичную браму. В храме хранятся реликвии святого мученика Андрея Боболи, в центре алтаря установлена чудотворная скульптура Христа.