A Vály-völgy legkorábbi temploma Felsővályban épült meg, valószínűleg a 11. század folyamán. Boldogságos Szűzről nevezett egyházát említi a 14. század eleji pápai tizedszedők jegyzékei is, sokáig a völgy egyetlen temploma volt. 1426-ban Valy és Waal alakban olvassuk a falu nevét az egykorú oklevelekben.
A husziták idejében a község határában a magyarok és a csehek között összecsapás zajlott. A templom erődfalának építése is ezekre az évekre tehető. A reformáció idején a Vály-völgy lakosai áttértek a református hitre, így a templom is református lett. A középkori eredetű templom 1619-ben leégett, de 1622-ben újra felépült. Erődítményeit jó karban tartották, így a török portyák ellen azok biztos védelmet nyújtottak a település lakóinak. A templom belsejében fából készült, festéssel díszített karzat, padok és mennyezet látható. A 17. századból származik a templom mellett álló fa harangláb is.

A templomról így ír Erdélyi Géza püspök Gömör vármegye klasszicista építészete című munkájában: A borzovai és zeherjei református templommal rokonítható építmény 1622-ben épült, s egyike a legrégibb református templomoknak. 1777-ben kibővítették. Fakazettás mennyezetének egy része a templomépítés, másik része a bővítés idejéből származik. Falain emléktáblák vannak, a gyülekezet múltjának fontos mozzanatait örökítették meg, többek között a gályarabságra ítélt prédikátor, Kállai István emlékét 1676-ból. A szószékkel szemben helyezték el a Kalos és a Lőkös család baldachinos padjait. E két család korábban fontos szerepet játszott mind az eklézsia, mind a falu életében.