Künstliche Intelligenz: Die Büchse der Pandora

Lateinamerika ist eine Region der Potenziale und die Einführung künstlicher Intelligenz in Brasilien ist die größte in der Region. Untersuchungen, die mit IT-Experten aus verschiedenen Unternehmen durchgeführt wurden, weisen darauf hin, dass die Einführung künstlicher Intelligenz im größten Land Südamerikas fast doppelt so hoch ist wie in Argentinien, Chile, Kolumbien, Mexiko und Peru. Auf Künstliche Intelligenz (KI) gestützte Systeme kommen in den verschiedensten Bereichen zum Einsatz, von der Justiz bis zur Unterhaltungsindustrie. Algorithmen reproduzieren allerdings auch diskriminierende Strukturen und bestehende Machtverhältnisse. KI-gestützte Systeme werden so zur Gefahr für bestimmte Teile der Bevölkerung. Google und Microsoft befinden sich in einem Wettlauf, um ihre neuen Chatbots mit künstlicher Intelligenz, die bald der Öffentlichkeit zugänglich gemacht werden, genauso populär oder noch populärer als ihre Suchmaschinen zu machen, aber diese neuen Technologien bringen neue Risiken für die Cybersicherheit mit sich, z. B. dass sie für Betrügereien oder die Erstellung von Malware für Cyberangriffe verwendet werden. Diese Probleme treten auch bei Chatbots wie dem beliebten ChatGPT auf, der von OpenAI entwickelt wurde, einer Technologie, die auch Microsofts Suchmaschine Bing betreibt.

Chatbots ermöglichen es, Texte in jeder Sprache in Sekundenschnelle und mit perfekter Grammatik zu erstellen. Laut Satnam Narang, Senior Research Engineer beim Cybersicherheitsunternehmen Tenable, könnten Betrüger einer der größten Nutznießer dieser Art von Technologie sein. Narang zufolge kann man diese Betrüger unter anderem an den grammatikalischen Fehlern erkennen, die sie in den Nachrichten an ihre Opfer machen und die, wenn sie KI verwenden, unbemerkt bleiben können. „ChatGPT kann (Betrügern) helfen, sehr gut gestaltete Vorlagen für E-Mails zu erstellen oder Dating-Profile zu erstellen, wenn sie versuchen, Nutzer auf Dating-Apps zu betrügen. Und wenn sie ein Gespräch (mit dem Opfer) in Echtzeit führen, können die Betrüger ChatGPT bitten, ihnen dabei zu helfen, die Antwort zu generieren, die die Person, für die sie sich ausgeben wollen, geben würde“, so Narang. Darüber hinaus weist der Experte darauf hin, dass es andere Arten von Tools der künstlichen Intelligenz gibt, wie z. B. DALL-E 2 – ebenfalls von OpenAI -, mit denen Betrüger Fotos von Personen erstellen können, die nicht existieren. Eine weitere Eigenschaft von ChatGPT ist, dass es Hackern helfen kann, bösartige Software (oder Malware) zu erstellen.

„Diese Malware wird nicht die ausgeklügeltste oder am besten gestaltete sein, aber sie gibt ihnen ein grundlegendes Verständnis dafür, wie sie bösartige Software auf der Grundlage bestimmter Sprachen schreiben können. Es verschafft ihnen also einen Vorsprung in ihrem Prozess, denn bisher musste jeder, der Malware entwickeln wollte, programmieren lernen, aber jetzt kann ChatGPT ihnen helfen, diese Zeit zu verkürzen“, erklärt Narang. Die ChatGPT-Chatbots von OpenAI sind wie Microsofts Bing und Googles Bard so konzipiert, dass sie sich nicht zu einer Vielzahl sensibler Themen – wie Rassismus oder Sicherheit – äußern und keine beleidigenden Antworten geben. So beantworten sie beispielsweise keine Fragen zu Adolf Hitler, stimmen nicht zu, das Wort „Nigger“ zu kommentieren und geben auch keine Anweisungen zum Bau einer Bombe. Narang erklärt jedoch, dass es bereits eine Jailbroken-Version von ChatGPT namens DAN gibt, die für „Do Anything Now“ steht und in der es keine solchen Barrieren gibt. „Dies ist besorgniserregender, denn nun könnte (ein Benutzer) ChatGPT (ohne Einschränkungen) bitten, ihm beim Schreiben von Ransomware zu helfen (ein Programm, das die Kontrolle über das System oder Gerät, das es infiziert, übernimmt und ein Lösegeld verlangt, um die Kontrolle an seinen Besitzer zurückzugeben). Es ist jedoch noch nicht bekannt, wie effektiv diese Ransomware sein könnte“, erklärt Narang.

Es ist schwierig, auf nationaler oder institutioneller Ebene Vorschriften zu erlassen, um diese neuen Technologien einzuschränken oder die Menschen davon abzuhalten, sie zu nutzen. „Wenn man die Büchse der Pandora einmal geöffnet hat, kann man nichts mehr hineinlegen. ChatGPT ist bereits da und es wird nicht verschwinden. Denn neben der böswilligen Nutzung gibt es viele echte Anwendungsfälle, die für Unternehmen, Organisationen und Einzelpersonen wertvoll sind“, so Narang abschließend.