Az ortodox hitközség a 18. század elején jött létre, alapítói Bécs környéki, illetve cseh-morva zsidók voltak. Az első zsinagógát 1778-ban építették. Vélelmezhető, hogy a kezdetektől működött Chevra Kadisa a településen. A közösség első rabbija Strasser Eliezer volt, aki 1827 körül tevékenykedett. A 19. század folyamán a településen folyamatosan működött rabbi. A közösség hitéletét 1891 és 1910 között Saul Brach irányította, aki jesivát (hagyományos izraelita hittudományi főiskola) működtetett, számos könyvet írt, s beszédeit is összegyűjtötték és kiadták. Nagymagyar utolsó rabbija Naftali Cvi volt, akit Auschwitzban öltek meg.
A helyi zsidó közösség tagjainak többsége szatócs, kisiparos, állatkereskedő és földműves volt. Bár kiemelten jómódú személy köztük nem volt, 1938 után mégis megkezdődött kiszorításuk az élet különböző területeiről. A településen 1941-ban 1785 lakos élt, ezek közül 251 vallotta magát izraelitának.
1944 tavaszán a nagymagyari zsidókat összegyűjtötték, és Dunaszerdahelyre szállították, ahonnan valamennyiüket Auschwitzba deportálták. A háború után az elhurcoltak 10-15 százaléka tért vissza. Többségük azonban az 1940-es évek végén alijázott (kivándorolt Izrael államba), így a nagy múltra visszatekintő hitközség megszűnt.