Az első katolikus templom a 11. században a város főterén épült. Ekkor a lakosság katolikus volt, Luther és Kálvin reformációja után azonban Rimaszombatban is történtek változások. Az 1524. évben a helybeli magas egyházi méltóságot viselő katolikus pap Em. Bebek megnősült, s az egész egyházközösséggel elfogadta Luther tanát. 1594–ben többségben voltak Kálvin János követői. A hívek a régi temető bejárata melletti Szűz Mária kápolnába jártak istentiszteletekre. A téren álló templom eredetileg katolikus volt, de a reformáció után a kálvinisták használták. Fordulat csak Mária Terézia uralkodása alatt állt be. A királyi bíróság végső határozata 1771. április 9–én a katolikusok javára döntött. A per befejezése után Karaba György misszionárius lett az első katolikus plébános. Az eredeti templomot az összeomlás fenyegette. Ezért 1775-ben lerombolták, és Mária Terézia királynő új templomot épített, amely a mai napig fennáll. A templom bejárata fölött való latin felírás is tanúskodik róla:
REX / AUGUSTA / MARIA THERESIA / DEO ET CATHOLICIS / POSUIT (Fenséges Királynő Mária Terézia, építtette Istennek és a katolikusoknak)
A templomot 1792. szeptember 30-án, II. Andrássy Antal, rozsnyói püspök szentelte fel.
A templom késői barokk stílusban épült. A főoltáron díszes márványba ékelt kép Fisher bécsi tanár és udvari festő művészi alkotása. Keresztelő Szent János fejvételét ábrázolja. Heródiás modelljét maga a királynő Mária Terézia állta.
Elöl, a jobb oldalon Nepomuki Sz. János mellékoltára áll, ismeretlen festőtől. A bal oldalon Avilai Sz. Teréz mellékoltára található. A képet a nagyszombati Zannusti József művész festette 1781–ben. Hátul jobbra Sz. András apostol mellékoltára van elhelyezve, melyet Zauzig József lőcsei művész festett 1834–ben. A bal oldali Szent Anna oltárt 1913–ban Lassgaftner festette.
A főoltár felett baloldalon falfestmény van, amely Szent István magyar király halálát ábrázolja. A jobb oldali kép a főoltár felett Szent László magyar királyt szemlélteti, amint vizet fakaszt a sziklából kísérete számára, mint egykor Mózes a pusztában. Mindkét képet Obendorf Gusztáv, rimaszombati gimnáziumi tanár, festette 1942–ben.
A templomot 1878-ban renoválták. A boltozat mostani festményét Ádám Gyula rozsnyói művész alkotta.
A templomtoronyban eredetileg három harang volt, melyek a szentelésnél Szentháromság, Szent György, Szent József nevet kapták. A harangokat 1779-ben készítették, amiről a kapu feletti felirat is tanúskodik.
Egyéb részletekről a rimaszombati Gömöri múzeumban lehet tudomást szerezni. Ott található az eredeti, gótikus templom külsejének festménye, valamint a katolikusok és a kálvinisták 1769. június 25-én történt összeütközésének festett képe.