Künstliche Intelligenz: Die neue Masche des venezolanischen Regimes

Das Regime von Nicolás Maduro in Venezuela verbreitet Desinformationen mit Hilfe von durch künstliche Intelligenz (KI) generierten Nachrichtensprechern. Diese verbreiten laut einem Bericht der spanischen Tageszeitung „El País“ nur regierungsfreundliche Nachrichten, was zeigt, wie die Technologie genutzt wird, um das Regime zu unterstützen. Laut dem Bericht, der sich auf eine Studie der venezolanischen Nichtregierungsorganisation (NGO) „Cazadores de Fake News“ stützt, wurden die beiden „Journalisten“ Daren und Noah, die in verschiedenen fiktiven englischsprachigen digitalen Nachrichtensendungen, wie der venezolanischen Nachrichtensendung House of News, auftreten, mit Hilfe von KI aus dem Katalog der Synthesia-Software mit mehr als 100 multirassischen Gesichtern erstellt. „Regime wie Venezuela oder China erstellen gefälschte Avatare, Fotos und Videos zu politischen Zwecken und verzerren so die Realität“, erklärte Victor Ruiz, Gründer des mexikanischen Cybersicherheitszentrums SILIKN. „Auf diese Weise behalten sie die Macht über die Menschen, indem sie sie misstrauisch gegenüber Menschen, Institutionen oder sogar Nationen machen, die eine Konkurrenz für das Regime darstellen könnten.“

Für etwa 30 Dollar pro Monat können Synthesia-Benutzer ein Skript eingeben, das in mehr als 100 Sprachen generiert und mit dem Mund von Avataren synchronisiert und in Bilder, Soundtracks und Videos integriert werden kann, berichtete die spanische Nachrichtenseite „Prensa Ibérica“. Für den Betrieb sind keine Kenntnisse der Videoerstellung erforderlich. Laut den Nutzungsbedingungen von Synthesia kann die Website zur Erstellung von Schulungs-, Anleitungs- und Marketingvideos genutzt werden, während religiöse, politische, sexuelle, diskriminierende, hasserfüllte oder blasphemische Inhalte eingeschränkt sind. Darüber hinaus betont das 2017 gegründete Unternehmen mit Sitz in London, dass Stock-Avatare nicht „in nutzergenerierten Inhalten für TV-Sendungen verwendet werden dürfen.“

Héctor Mazarri, Mitarbeiter von „Cazadores de Fake News“, erklärte gegenüber „El País“, dass sie nach dem Studium der Videos von Daren und Noah „einen organisierten Versuch, dem [venezolanischen] Regime genehme Narrative zu verbreiten“ erkannt hätten. Während ein geschulter Nutzer die Fehler erkennen kann, wird dies so gemacht, dass niemand davon ausgenommen ist, es nicht zu glauben“, sagte er. Darüber hinaus hatten die Videos der „Journalisten“, die Venezuela einseitig und ohne Grundlage begünstigen, Hunderttausende von Aufrufen auf YouTube, gingen auf TikTok viral und wurden vom staatlichen Fernsehsender Venezolana de Televisión ausgestrahlt, berichtete El País. „Wir alle können Opfer dieses Machtmissbrauchs und der Desinformation werden“, fügte Ruiz hinzu.

Gefälschte Nachrichten

In einer Sendung von House of News teilte einer der Avatare eine positive Sicht auf Caracas. „Wir wollten wissen, ob Venezuela wirklich so zerstört ist, wie die Medien jahrelang behauptet haben“, sagte er laut „El País“, bevor er Bilder von venezolanischen Stränden voller Touristen zeigte und ankündigte, dass die Reisebüros für die Karnevalszeit ausgebucht seien. Mit diesem Video sollte der Eindruck erweckt werden, dass die wirtschaftlichen und sozialen Berichte venezolanischer Institutionen und ziviler Organisationen, wonach mehr als 90 Prozent der Bevölkerung unter der Armutsgrenze leben, nicht zutreffen, berichtete die venezolanische Nachrichtenseite „Efecto Cocuyo“. „Länder wie Venezuela und China benutzen KI und andere neue Werkzeuge als Waffen gegen Menschen, gegen die Bürger oder ein anderes Land“, sagte Ruiz. „Das führt dazu, dass die Menschen misstrauisch werden, verunsichert sind und sich möglicherweise gegen das Land selbst auflehnen.“

Chinesische Avatare

Peking hat seinerseits auch die Interessen der Kommunistischen Partei Chinas (KPCh) durch einen KI-generierten Avatar in einer Nachrichtensendung namens „Wolf News“ gefördert. In einem Video verkündete eine falsche Moderatorin beispielsweise Chinas Rolle in den geopolitischen Beziehungen auf einem internationalen Gipfel, wie die „New York Times“ am 9. Februar berichtete. Graphika, ein US-amerikanisches Unternehmen, das sich mit Desinformation befasst, entdeckte im Jahr 2022 eine Kampagne, die mit Avatar-Videos zugunsten Chinas wirbt. „Der Einsatz von öffentlich zugänglichen KI-Produkten wird es den Akteuren der Einflussnahme ermöglichen, irreführende Inhalte in größerem Umfang und schneller zu erstellen“, hieß es. „Es ist ein komplexes Thema, im Fall von China gibt es Barrieren, die verhindern, dass man aus erster Hand erfährt, was wirklich vor sich geht“, sagte Ruiz. „Es werden noch viel mehr Avatare in autoritären Ländern mit politischen Motiven geschaffen werden. Wir müssen mit den Informationen, die wir erhalten, sehr vorsichtig sein.“ Im März stellte das offizielle Medienorgan der KPP, „People’s Daily“, einen KI-Nachrichtensprecher vor. Der virtuelle Journalist namens Ren Xiaorong kann nur nach einem diktierten Skript antworten, das der redaktionellen und offiziellen Linie der KPCh folgt, berichtete die argentinische Nachrichtenseite „TN-Todo Noticias“.

Ethische Kodizes

In Anbetracht der Tatsache, dass sich die KI durchsetzen wird, „müssen Organisationen und Regierungen über Ethikkodizes für ihre Tätigkeiten verfügen. Sie müssen sofort daran arbeiten, Vorschriften für den Einsatz von KI einzuführen“, sagte Ruiz. „Diese Kodizes könnten einen Teil der Fehlinformationen eindämmen.“