Cmentarz wojenny o powierzchni 1820 metrów kwadratowych położony jest w miejscu, gdzie przed II wojną światową znajdował się tzw. Plac Chwały, na którym odbywały się uroczystości patriotyczne. O lokalizacji cmentarza zadecydowało położenie Placu – jego niewielka odległość od zajętego w 1945 roku przez Rosjan szpitala. Tutaj zdobywcy miasta grzebali swoich żołnierzy, zmarłych w szpitalu z powodu ran odniesionych w bitwach toczących się w okolicy Ostródy.
Do 1949 roku, kiedy to cmentarz uznano oficjalnie za mauzoleum żołnierzy radzieckich, pochowano tutaj 575 żołnierzy Armii Czerwonej, z czego zaledwie 50 zostało zidentyfikowanych. Ciała przewożono z okolicznych miejscowości, między innymi z Mierek i Dąbrówna.
Centralny akcent cmentarza stanowi betonowy pomnik, do którego prowadzą dwie alejki. Po obu ich stronach rozmieszczonych jest 14 płyt nagrobkowych z lastryka, 2 postumenty betonowe z granitową czarną płytą i jeden postument marmurowy. Cmentarz ogrodzony jest betonowym murem o wysokości 0,6 metra.
Napisy na tablicach głoszą dowody wielkiego uznania i wdzięczności mieszkańców Ostródy i powiatu dla poległych żołnierzy.
W czasach PRL-u pod cmentarnym pomnikiem odbywały się uroczystości z okazji kolejnych rocznic Wielkiej Socjalistycznej Rewolucji Październikowej (określenie przejęte z terminologii sowieckiej), podczas których władze miasta i powiatu, w obecności delegacji szkół i zakładów pracy, oddawały hołd poległym bohaterom i zapewniały o swojej wierności ideom Wielkiego Października.
