A temetőt 1914 őszén alakította ki a nagymegyeri hadifogolytábort őrző hadtest és a korabeli magyar hatóságok, miután a város nem engedélyezte, hogy temetőibe temessék el a táborban  elterjedt, fertőző betegségben elhunyt nagyszámú hadifoglyot. A hadifogolytemető eredeti területe 1362 m² volt. Maga a temető három részből állt. Az első része az ún. szerb temető. Napjainkban csak ez a része maradt meg a haditemetőnek. Itt  5464 szerb és montenegrói hadifoglyot temettek el 1914-1918. november 1-je között.A  második, illetve harmadik részét a 20. század ötvenes éveiben felszámolták, területén a város egy utcasort nyitott. A két világháború között a csehszlovák  állam nagy gondot fordított a haditemetőként nyilvántartott sírkert gondozására. 1938 novembere  után, amikor Nagymegyer ismét Magyarországhoz került, a temetőt továbbra is példásan gondozták. Sajnos a haditemető gondozását a 2. világháború után elhanyagolták. 1989 után, először 2001-ben kezdődtek el a tárgyalások a Szlovák Köztársaság és a Szerb Köztársaság között. Ennek eredményeként  2008. október 13-án Belgrádban a két állam miniszterelnöke aláírt egy szerződést a katonai sírok kölcsönös ápolásáról. A folyamat eredményeként 2003-tól a Nagymegyeri  Városi Önkormányzat  rendbehozatta az egykori haditemetőt. A felújítási munkák eredményeként  az itt  lévő kis kápolnával párhuzamosan egy keresztet helyeztek el, fákat ültettek és teljes mértékben kitisztították a korábban begyomosodott területet.