Brasilien fordert Erstellung sexualisierter Bilder mithilfe von KI zu unterlassen

Die Regierung Brasiliens hat das soziale Netzwerk X aufgefordert, unverzüglich Maßnahmen zu ergreifen, um die Erstellung sexualisierter Bilder von Personen durch Grok, das künstliche Intelligenz-Tool des Unternehmens, einzuschränken. Die Forderung konzentriert sich vorrangig auf den Schutz von Kindern und Jugendlichen und warnt vor möglichen rechtlichen Schritten, sollte die Plattform nicht handeln. Die Empfehlungen wurden gemeinsam von der Bundesstaatsanwaltschaft, der nationalen Datenschutzbehörde und dem nationalen Verbraucherschutzministerium ausgesprochen, die es für dringend notwendig halten, die Kontrollen über den Einsatz von KI auf der Plattform zu verstärken. Die brasilianischen Behörden geben X eine Frist von maximal 30 Tagen, um Mechanismen zur Erkennung und Entfernung von mit KI generierten sexualisierten Inhalten zu schaffen.

Entfernung von Inhalten und Kontrolle von Konten

Unter den vorgeschlagenen Maßnahmen verlangen die Behörden, dass X innerhalb einer Frist von maximal 30 Tagen Verfahren zur Identifizierung, Überprüfung und Entfernung von sexualisierten Bildern einführt, die von Nutzern mit Hilfe von Grok erstellt wurden. Ziel ist es, die Verbreitung von Inhalten zu unterbinden, die gegen Grundrechte und geltende Datenschutzgesetze verstoßen. Darüber hinaus fordern sie die sofortige Sperrung von Konten, die an der Produktion sexualisierter Bilder von Minderjährigen und Erwachsenen ohne deren ausdrückliche Zustimmung beteiligt sind.

Beschwerden und Schutz personenbezogener Daten

Die Behörden empfehlen der Plattform außerdem, einen transparenten, zugänglichen und wirksamen Beschwerdemechanismus einzurichten, damit jede betroffene Person die illegale Verwendung ihrer personenbezogenen Daten oder ihres Bildes melden kann. In der gemeinsamen Erklärung wird darauf hingewiesen, dass, wenn X diese Empfehlungen nicht umsetzt, weitere Maßnahmen innerhalb des brasilianischen Justizsystems ergriffen werden können, um den Schutz der Bürger zu gewährleisten.

Lulas Warnung vor künstlicher Intelligenz

Der brasilianische Präsident Luiz Inácio Lula da Silva sprach am Dienstag bei einer öffentlichen Veranstaltung über das Problem und warnte vor der Verbreitung von Bildern, die mit künstlicher Intelligenz erzeugt wurden. Lula erklärte, dass er und seine Frau Opfer solcher Praktiken geworden seien. „Lasst euch nicht in Algorithmen verwandeln”, sagte der Präsident in einer Botschaft, die das Bewusstsein für die Risiken des Missbrauchs von KI in sozialen Netzwerken schärfen soll.