Tata első írásos említése (Tadej alakban) 1228-ból származik. Ma Kistata puszta néven említik, Kőhidgyarmat határában, a falutól dél-nyugatra található.
Figyelemre méltó a települést, annak már létező egyházát illetően az az 1230-ból származó adat, mely szerint…Florentinus szebeni prépost…a Szent Móric egyház előtt kap két háznépet és két utcát malomépítéshez és két háznépet a mocsár hosszában. A plébánia ősiségre utal az 1332/37-es pápai tizedjegyzék is, mely szerint Kistata már ekkor önálló plébániával rendelkezett.
Maga a Tata elnevezés nemesi múltra utal. Az István királyról szóló krónika 13. századi betoldása említi Deodatus sanseverini grófot, akit a gyermek István „Tatá”-nak nevezett: „…az udvarban élt egy Tata nevű főrangú személy, aki monostort alapított.” Ez azért érdekes, mert a helyi legenda is úgy tartja, hogy egykor bencés monostor állt ezen a helyen. „Történt ugyanis, hogy Tata, aki birtokot kapott itt István királytól, monostort emeltetett a Garam mellett.” Ennek egyébként valós alapja van, mert maga Györffy György sem zárja ki a monostoralapítás tényét. Ezt a monostort benedekrendi szerzetesek lakták, akik a Lengyelországból behozott só vámszedési jogát gyakorolták e helyen. Kistata középkori templomának Szent Móric védőszentje államszervezés kori udvari kapcsolatokra és alapításra mutat, birtokosának pedig az a Tata főúr tekinthető, aki a krónikák szerint Szent István nevelője volt.
A török idők utáni, 1732. évből származó egyházlátogatási jegyzőkönyv Kis-Tatát már Kőhidgyarmat leányegyházaként tünteti fel. Leírja, hogy a kőhidgyarmati plébánosnak van a kis-tatai határban egy egész jobbágytelke, melyet saját maga művel. Kis-Tata káptalani pusztáról pedig azt írja, hogy „…egykoron falu volt. Temploma még föntáll; ujabb időben egy remete foglalta el és ujitotta meg. Egyébiránt a templomnak – egy kőasztalon kivül – semmi felszerelése sincsen.” A Kis-Tata pusztán lévő templom ekkor már Sarlós Boldogasszony tiszteletére volt szentelve.
Az 1755. évi egyházlátogatási jegyzőkönyv is megemlékezik róla. Huszonhárom év után azt olvashatjuk, hogy „Az itt élő remete tehát nem felszentelt pap” ami azt jelenti, hogy (valószínűleg) misézni is szokott, mint világi személy. A korábbi adatokhoz képest meglepetéssel olvashatjuk, hogy „a templom már némileg fel van szerelve; szentélye, sekrestyéje boltíves, a hajó mennyezete deszkázott. Tornya, khórusa (orgona nélkül) és szószéke fából készült s néhány padja is van. Az egyházi ruhákat esetről-esetre Kőhidgyarmatról hozzák.” Kis-Tata, mint falu életében a 17. század második fele végzetesnek bizonyult. A török idők után már nem volt képes megújulni, csak templomának tornya meredezett az égre mementóként. Máig létező temetője azonban most is hordozza a régi korok üzenetét. Az 1890-es összeírás még számba veszi, de már csak egy szűk mondat erejéig, miszerint „Kis-Tata, puszta, templom nélkül.”
Valami azonban még mindig emlékeztet az ősi templom mivoltára. A hívők ugyanis az ősrégi templom romjaiból (valószínűleg annak 18. századi megszűnte után) egy Mária-házat, pontosabban egy szoborfülkés képoszlopot emeltek-mégpedig éppen azon a helyen, ahol a templom is állt egykoron. Még a 20. század első felében is jártak ide imádkozni és énekelni nagypéntek éjjelén. Hittek benne, hogy aki ezt a Mária-házat térden állva hétszer megkerüli, az meggyógyul. Egyes adatok szerint Kis-Tata templomának romjaiból épült 1775-ben a nánai Szent Vendel kápolna.
A fentebb bemutatott dokumentumok, valamint az 1763 – 1787 között megtartott katonai felmérés alapján 2017-ben földradaros vizsgálatnak vetették alá a területet. A vizsgálat egyértelműen kimutatta az egykori Árpád-kori templom elhelyezkedését, formáját. Nagy valószínűséggel állíthatjuk, hogy egy toronnyal ellátott, egyhajós, keleti tájolású templomról van szó, melynek hozzávetőleges méretei a következők: a templom teljes hossza a toronnyal és az apszissal együtt 17,5 m, a téglalap alakú hajó hossza 10,5 m, szélessége pedig 6,5 m. A félköríves apszis hossza 3,5 m, szélessége mintegy 5 m. A mérés eredménye nem zárja ki, hogy a szakrális építménytől dél-keletre található törmelékek a bencés kolostor maradványaiból származnak. Mivel maga a helyszín ezt lehetővé teszi, a tervek szerint a közeljövőben részleges régészeti feltárásra fog itt sor kerülni.