Костел Св. Петра и Павла в Гоже был построен в 1860-х годах. Этот храм воплощает в своем облике типичные черты неоготического стиля. Самым ярким архитектурным элементом являются две башни с шатровыми крышами, расположенные по обе стороны от главного входа. Между ними находится треугольный фронтон, а боковые фасады украшают стрельчатые окна.
Привлекательный внешний вид этого храма обеспечивает сочетание бутового камня с оштукатуренными декоративными элементами. Яркой отличительной особенностью интерьера служат плоские пилястры. Окна украшают витражи.