Την άνοιξη του 1944, οι κατοχικές δυνάμεις εντατικοποίησαν τις επιχειρήσεις κατά των αντιστασιακών ομάδων στη Δυτική Μακεδονία. Σε αυτό το πλαίσιο, το Γερμανικό Φρουραρχείο Καστοριάς ανέλαβε τον συντονισμό των στρατιωτικών δράσεων για την εξόντωση των ανταρτών στις περιοχές γύρω από το όρος Άσκιο. Την ηγεσία της επιχείρησης ανέλαβε ο λοχίας της Στρατιωτικής Χωροφυλακής, Μίχαελ Έμπνερ.

Η επιχείρηση ξεκίνησε στις 12 Απριλίου 1944, με τον λοχία Έμπνερ και περίπου 200 στρατιώτες από τις τάξεις της Βέρμαχτ και των Ες Ες, καθώς και 50 Κομιτατζήδες, να κινούνται προς το Κωσταράζι. Παράλληλα, οι κάτοικοι του χωριού Γέρμα, ενημερωμένοι για την παρουσία των κατοχικών δυνάμεων στην ευρύτερη περιοχή και γνωρίζοντας τις προηγούμενες επιθετικές ενέργειες και τα ολοκαυτώματα που είχαν σημειωθεί σε άλλα χωριά της Δυτικής Μακεδονίας, εγκατέλειψαν το χωριό τους και αναζήτησαν καταφύγιο στις γύρω ορεινές περιοχές.

Την επόμενη, 13 Απριλίου, μετά το ολοκαύτωμα του Κωσταραζίου, ένα στρατιωτικό απόσπασμα κατευθύνθηκε προς τον Γέρμα, αναζητώντας αντάρτες και συνεργάτες του ΕΛΑΣ. Οι Γερμανοί διέθεταν πληροφορίες πως οι κάτοικοι του Γέρμα υποστήριζαν τη δράση των αντιστασιακών ομάδων, καθώς επίσης και ότι ορισμένοι από αυτούς συμμετείχαν στις τάξεις του Αλέξανδρου Ρόσιου (Καπετάν Υψηλάντη), αξιωματικού του ΕΛΑΣ. Κατά την άφιξη στον Γέρμα, το απόσπασμα βρήκε το χωριό έρημο, αφού οι περισσότεροι κάτοικοι είχαν ήδη καταφύγει στις γύρω ορεινές περιοχές.

Ως αντίποινα για τη διαφυγή των Γερμιωτών αλλά και για τη συνεργασία τους με τους αντάρτες, οι Γερμανοί εκτέλεσαν τους λίγους κατοίκους που είχαν παραμείνει στο χωριό και, ακολουθώντας τις συνήθεις πρακτικές τους, πυρπόλησαν τον οικιστικό ιστό. Συνολικά, κατά τη διάρκεια του ολοκαυτώματος του Γέρμα 8 άμαχοι, στην πλειονότητά τους ηλικιωμένοι, έχασαν τη ζωή τους από τις βιαιοπραγίες των κατοχικών δυνάμεων. Βαριές ήταν και οι υλικές καταστροφές, καθώς από το σύνολο των 180 οικιών, καταστράφηκαν ολοσχερώς τουλάχιστον 130. Οι επιζώντες κάτοικοι του μαρτυρικού χωριού αναγκάστηκαν να διαφύγουν στο Βογατσικό, αδυνατώντας πλέον να διαμείνουν στον Γέρμα, καθώς ο οικιστικός ιστός του χωριού είχε καταστραφεί εντελώς.

Τον Μάρτιο του 2020, το ελληνικό κράτος χαρακτήρισε τον Γέρμα μαρτυρικό χωριό με το υπ’ αριθμ. 32/11.03.2020 Προεδρικό Διάταγμα, τιμώντας με τον τρόπο αυτό τη μνήμη των θυμάτων του ολοκαυτώματος.