Некогда Гравжишки украшал деревянный костел св. Петра и Павла, который был возведен еще в XVIII веке. После строительства нового храма из кирпича его решено было разобрать. Сохранилась лишь деревянная колокольня, которая относится к каркасному типу. Она появилась позже (на рубеже XIX и ХХ веков). Колокольня костела св. Петра и Павла в Гравжишках считается памятником народного зодчества.