Gespaltene Generation: Die Gamifizierung des Hasses

Die mehr als 2 Millionen Menschen, die am vergangenen Samstag (03.05.) das kostenlose Konzert von Lady Gaga an der Copacabana in Rio de Janeiro besuchten, konnten sich nicht vorstellen, dass sie beinahe eine durch Hass motivierte Tragödie erlebt hätten. Während die Menschenmenge synchron zu den Hits der Sängerin mit Fächern winkte und Vielfalt und Empathie feierte, verhinderte die Zivilpolizei von Rio de Janeiro einen Angriff mit Molotowcocktails und improvisierten Bomben. Es handelte sich um einen Anschlag, der von jungen Nutzern digitaler Plattformen wie Discord organisiert worden war und sich gegen die LGBTQIA+-Community und Kinder richtete. Sie nannten ihren Plan „kollektive Herausforderung“ und wollten damit online bekannt werden. Der Vorfall, der in nationaler Trauer hätte enden können, ist ein dringender Warnsignal für das Wachstum von Hassnetzwerken unter Jugendlichen – und dafür, wie Plattformen diese Radikalisierung unverantwortlich fördern.

Dieses Phänomen hat etwas zutiefst Generationsspezifisches. Die Netflix-Serie „Adolescência“ brach Zuschauerrekorde, weil sie schonungslos zeigt, wie junge Menschen in hypervernetzten Umgebungen leben, in denen es keine staatliche und elterliche Aufsicht gibt und die von Mobbing, toxischer Männlichkeit und der Normalisierung von Gewalt geprägt sind. Das ist nicht nur ein Spiegelbild dessen, was in Brasilien geschieht, sondern auch in der ganzen Welt. Daten von Gallup zeigen, dass wir vor einem ideologischen Bruch zwischen jungen Männern und Frauen der Generation Z stehen. Als Adoleszenz wird in der Entwicklung des Menschen der Zeitraum von der späten Kindheit über die Pubertät bis hin zum vollen Erwachsensein bezeichnet. Die Adoleszenz unterscheidet sich also qualitativ sowohl von der Kindheit als auch vom Erwachsenenalter. In den Vereinigten Staaten von Donald Trump sind Frauen zwischen 18 und 30 Jahren heute 30 Prozentpunkte liberaler als ihre männlichen Altersgenossen. In Deutschland, wo die rechtsextreme AfD mit alarmierender Geschwindigkeit wächst, beträgt der Unterschied ebenfalls 30 Prozentpunkte. In Polen, obwohl die extreme Rechte Ende 2023 nach acht Jahren an der Macht war, unterstützt fast die Hälfte der Männer zwischen 18 und 21 Jahren Parteien dieser politischen Ausrichtung, gegenüber nur einem Sechstel der Frauen derselben Altersgruppe.

Frauenfeindlichkeit, Rassismus und Transphobie

Diese Polarisierung unter jungen Menschen findet gerade zu einer Zeit statt, in der Netzwerke wie Discord, TikTok und Reddit zu Orten der Identitätsbildung geworden sind. Anstatt Vielfalt zu fördern, fungieren viele dieser Plattformen jedoch als Maschinen zur Produktion und Verbreitung von Hass. Die Studie „Mapping Discord’s Darkside“, veröffentlicht in New Media & Society, zeigt, dass Discord trotz Marketingbemühungen, sich von der extremen Rechten zu distanzieren, Tausende von Servern beherbergt, die mit neonazistischer, frauenfeindlicher, rassistischer, transphober und verschwörungstheoretischer Rhetorik in Verbindung stehen. Es wurden 2.741 Server mit diesen Merkmalen identifiziert – mit mehr als 850.000 aktiven Mitgliedern.

Diese Netzwerke fungieren letztlich als Rekrutierungsplattformen, auf denen junge Menschen, vor allem Jungen, durch provokante Memes, Versprechen von Zugehörigkeit und Identitätsspiele, die auf der Ausgrenzung anderer basieren, angezogen werden. Die Struktur von Discord, die Wert auf Privatsphäre und Dezentralisierung legt, ist zum idealen Nährboden für das Entstehen dieser „toxischen Technokulturen“ geworden, wie sie die Forscherin Adrienne Massanari definiert. Plattformen wie Disboard – eine informelle Suchmaschine für Discord-Server – werden genutzt, um Jugendliche für Communities zu rekrutieren, die den Nationalsozialismus verherrlichen, Hass gegen Frauen und LGBTQIA+ schüren und sogar „Dienstleistungen“ für koordinierte Angriffe auf andere Server anbieten.

Verstehen Sie, wie KI die Gesellschaft verändert

Ein Teil des Erfolgs dieser Radikalisierungsumgebungen ist auf Gamification zurückzuführen – die Verwendung typischer Spielelemente wie Herausforderungen, Belohnungen und Ranglisten in Kontexten, die nichts mit Spielen zu tun haben. In sozialen Netzwerken und extremistischen Foren verwandelt Gamification Engagement in Wettbewerb und Hassreden in spielerische Herausforderungen. Diese Praxis macht den Einstieg in den Extremismus schmackhafter, indem sie die Gewalt hinter scheinbar harmlosen Mechanismen verschleiert. Wie der Bericht „Gamification and Online Hate Speech“ feststellt, wird Gamification zu einem mächtigen Instrument zur Normalisierung und Verbreitung von Hass, insbesondere unter jungen Menschen, die nach Anerkennung und Zugehörigkeit suchen.

Dieser Prozess, der als „Bottom-up-Gamifizierung“ bezeichnet wird, findet statt, wenn die Nutzer selbst die Regeln, symbolischen Belohnungen und Herausforderungen festlegen. Indem sie beispielsweise Hassreden in „Herausforderungen“ umwandeln, bei denen es darum geht, Frauen oder Mitglieder der LGBTQIA+-Community online zu demütigen, fördert die Gruppe auf spielerische und virale Weise die Entmenschlichung dieser Ziele.

Anstiftung zur Gewalt in Form einer „Herausforderung“

Die Ermittlungen zum vereitelten Anschlag auf das Lady-Gaga-Konzert an der Copacabana haben genau diesen Mechanismus aufgedeckt: Der Anschlag wurde als „kollektive Herausforderung“ behandelt, für die junge Menschen rekrutiert wurden, um Molotowcocktails und explosive Rucksäcke herzustellen, um in den sozialen Netzwerken Aufmerksamkeit zu erlangen. Hassrede erscheint nicht als Ausgangspunkt, sondern als verinnerlichte Konsequenz nach wiederholten spielerischen Interaktionen mit gewalttätigen Inhalten. Die Logik der Gamifizierung schafft auch eine Struktur von „Errungenschaften“ und „Punkten“, die den Wettbewerb anheizt und die radikale Ideologie verstärkt. Wie die Studie von Lakhani und Wiedlitzka aus dem Jahr 2022 zeigt, wurden Anschläge wie der von Christchurch stark von Spielen inspiriert geplant und ausgeführt, darunter Live-Übertragungen ähnlich wie „Let’s Play“ und Kommentare von Zuschauern, die die Zahl der Todesopfer als „Punktestand“ behandelten.

Diese Ästhetisierung von Gewalt dient als Element des Zusammenhalts zwischen jungen Männern in digitalen Räumen, insbesondere denen, die sich bereits entfremdet oder frustriert fühlen und in diesen Hassspielen eine Form der Zugehörigkeit und Bestätigung finden. So verwandelt Gamification Hass in Unterhaltung, stärkt die Bindungen in toxischen Gemeinschaften und erschwert die Wahrnehmung, dass es sich tatsächlich um Extremismus handelt. Wir stehen daher vor einer doppelten Herausforderung: der Moderation der Plattformen und der generationsübergreifenden Akzeptanz. Die Geschlechterkluft der Generation Z ist nicht trivial. Sie spiegelt die Kluft zwischen der Generation junger Frauen wider, die, angeregt durch #MeToo und andere feministische Kämpfe, progressive Themen aufgegriffen haben, während die Generation der Männer als Reaktion darauf von konservativen und frauenfeindlichen Diskursen in digitalen Umgebungen kooptiert wird.

Diese Kluft hat reale Konsequenzen für die öffentliche Debatte, für persönliche Beziehungen, für den schulischen Bereich und ganz allgemein für die Demokratie. Sie offenbart aber auch etwas, das klar und deutlich gesagt werden muss: Die Regulierung von Plattformen ist keine technische Frage, sondern eine Frage der Generationengerechtigkeit. Die Zukunft einer Generation kann nicht auf Algorithmen aufgebaut werden, die Hass und Radikalisierung belohnen. Brasilien muss dringend die Regulierung von Plattformen vorantreiben, aber auf inklusive Weise, indem es die Jugend anhört, insbesondere die aus den Randgebieten und den am stärksten benachteiligten Gemeinden, die in der öffentlichen Debatte oft zum Schweigen gebracht werden. Wir müssen Mechanismen diskutieren, die die Nutzung von Plattformen für die Massenrekrutierung junger Menschen durch extremistische Gruppen einschränken und Unternehmen zur Verantwortung ziehen, die die Moderation auslagern und damit toxische Ökosysteme fördern.

Wenn wir diese Warnung ignorieren, laufen wir Gefahr, die Vorstellung zu normalisieren, dass die Radikalisierung junger Menschen nur ein Nebeneffekt der digitalen Welt ist. Und das ist inakzeptabel. Wie uns die Serie „Adolescência“ vor Augen führt, verbirgt sich hinter jedem Bildschirm ein junger Mensch, der nach Zugehörigkeit, Sinn und Zukunft sucht. Wir dürfen nicht zulassen, dass diese Suche in Intoleranz und Hass mündet.