A református templom azonos a XIV. századi dézsmajegyzékben olvasható Boldogságos Szűz Mária titulusú plébániával. Messziről feltűnik a község északi végén, dombtetőn álló, fehér falú épület, amelynek nyugati homlokzata előtti szép arányú, fából ácsolt emeletén árkádos-tornyos, zsindelyborítású harangláb magasodik. Szintén deszkából készült átjáró köti össze a templommal, előcsarnokot képezve a bejárata elé. A keletelt hossztengelyű, egyhajós épület szentélye a nyolcszög három oldalával záródik; apszisának déli oldalán a keskeny, félköríves román kori ablak, továbbá a nyugati oromfal keskeny, lándzsaíves nyílása alapján az 1200-as évek végére keltezhető az építése. 1775-ben átépítették a belsejét, kazettás, festett deszkamennyezetet készítettek a hajó fölé – ekkoriban épült a fatorony is a harang számára. 1820-ban újabb renoválást végeztek a templomon, a legutóbbi évek műemléki kutatásai nyomán pedig napvilágra kerültek a szentély falát díszítő, XIV. századi falfestmények. Magyarország Kormánya a Rómer Flóris Terv keretében, a Teleki László Alapítvány közreműködésével 2017-ben szárnyai alá vette Gömör egyik ősi, máig álló és élő templomát, a zsípi református templomot. A támogatásból a vízelvezetést oldották meg.