Cerkev na Veseli gori je izjemna božjepotna cerkev s poznobaročno centralno zasnovo (1723), ki jo dopolnjujeta svojsko postavljena zvonika. Baročna dvostolpna romarska cerkev stoji na razglednem vrhu gore, ob robu vasi Brinje nad Šentrupertom. Do cerkve vodi pot ob kapelicah križevega pota iz l. 1730. Poslikane so bile s freskami Matije Bradaške. Kapelice so obnovili s pomočjo Jožeta Anderliča po l. 2000.

Vzvalovano pročelje poudarjata prečno zasukana zvonika ob glavnem vhodu. Stranska pročelja se prelivajo v kupoli kvadratne dvorane s porezanimi vogali in oltarnega prostora, ki je pomanjšava centralnega dela. Ob straneh sta dozidani sočasni kapeli.

Notranjost je ovalen prostor s kapelama in prezbiterijem. Glavni oltar ima bogato rezbarjen in pozlačen akantov okvir iz l. 1735. Notranjost je poslikana s freskami: v kupoli je upodobljena Sv. trojica, v prezbiteriju čudeži Frančiška Ksaverija (Janez Anton Tušek, 1760). V stranskih oltarjih so kakovostne baročne slike (Fortunat Bergant, 1740, Valentin Metzinger, 1738). Na koru stojijo najstarejše orgle na Dolenjskem. Pročelja so urejena. Ključe hranijo v vasi in v župnišču v Šentrupertu. V bližnji hiši je manjša spominska zbirka Petra Pavla Glavarja.