Chat GPT – Was ist das und was kann es?

Chat GPT (Generative Pre-trained Transformer) ist ein auf Künstlicher Intelligenz (KI, oder englisch AI für artificial intelligence) basierendes Sprachmodell, das – wie in der Interaktion während eines Chats mit einer realen Person – Fragen beantworten, Texte verfassen und auch selbst Fragen stellen kann. Auf konkrete Anfrage kann das öffentlich zugängliche Tool, das seit November 2022 den Nachfolger von GPT 3 darstellt, schnell, textsicher und zudem kostenlos Referate, Fachtexte und sogar ganze Hausarbeiten verfassen. Fachleute sprechen vom Durchbruch in der KI.

Dies ist möglich durch Training mit menschlichem Feedback (human feedback); der Bot lernt also durch sein menschliches Gegenüber. Aufgrund der Simplizität der Textgenerierung stellen sich mittlerweile Fragen der Geheimhaltung und Weiterleitung unternehmensinterner Inhalte. Auch der Einsatz dieses Chatbots im Tagesgeschäft wird heiß diskutiert. Was Fachtexte und Hausarbeiten angeht – die Studierende scheinbar regelmäßig und erfolgreich durch Chat GPT erstellen lassen – bleiben nach Ansicht von Experten definitiv Auswirkungen z.B. auf die aktuelle Prüfungspraxis an Hochschulen nicht aus. In Nordrhein Westfalen fordert das Wissenschaftsministerium eine Kennzeichnung der durch Chat GPT erstellten Texte. Es sind Bußgelder bis zu 50.000 Euro im Gespräch. 

Was Kann Chat GPT?

Und was kann es (noch) nicht? Derzeit gibt es einen kostenlosen Zugang zur aktuellen Version des Chat GPTs, eine kostenpflichtige Version steht ebenfalls zur Verfügung. Die Einsatzbereiche sind vielfältig und reichen von Frage-Antwort-Dialogen bis hin zur Erstellung ganzer Hausarbeiten. Die Qualität – gerade von komplexeren Texten – ist wiederum an die der KI bereits vorliegenden Datensätze gebunden. Inhaltlich optimal angepasste Reaktionen auf die Aktionen der Nutzer geben zu können setzt also voraus, dass entsprechende Daten bereits über die Eingabe von Informationen durch Menschen erfolgten.  Auf Grundlage dieser Eingaben hat Chat GPT Fragen beantwortet; die Antworten wurden wiederum von Menschen bewertet, so dass ein Ranking der bestmöglichen Antworten generiert wurde. Dies bedeutet für die Entwickler von OpenAI, dass die Qualität und Vollständigkeit der Antworten bzw. der ausgegebenen Datensätze von der vorangegangenen Eingabe durch Menschen abhängig sind.

Der Einsatz von Chat GPT bleibt vielfältig. In der Unternehmenskommunikation beispielsweise als Chatbot, der anhand von Unternehmensdaten und Feedback von Mitarbeitenden geführt wird oder durch die gezielte Angabe von FAQs. Weitere Einsätze und Prognosen bleiben noch offen, da die Version relativ neu ist. 

Selbstverständlich stellen sich auch Fragen zur Cybersecurity und internen Unternehmensinhalten, die durch die Eingabe der Daten eventuell auch Anderen zugänglich gemacht werden können.

Grundsätzlich gilt: Solange die KI keine sensiblen Unternehmensdaten wie Finanzen oder projektbezogene Interna, die für die Konkurrenz von Vorteil wären, mitgeteilt bekommen, besteht keine Gefahr, dass diese Daten ohne Weiteres an die Öffentlichkeit geraten könnten. Dennoch sollten über Chat GPT erstellte Antworten stets überprüft werden. Sollten keine personenbezogenen Daten verwendet worden sein (z.B. Klarnamen von Mitarbeitenden, Geschäftsführung oder Kund:innen), greift die DSGVO nicht.

Ein weiteres Risiko in der Nutzung von Chat GPT für geschäftliche Zwecke besteht darin, dass Informationen von Dritten über Unternehmen eingespeist werden könnten, die die KI dann nicht differenzieren kann und in mögliche Antworten an potentielle Kund:innen verwandelt. Auch die Aktualität von veralteten Informationen, die nachjustiert werden müssten, kann die KI nicht erkennen. 

Eine Frage der Perspektive

Mit Chat GPT wurden bereits etliche Tests durchgeführt, um zu überprüfen, ob das Tool im Stande ist, eigenständig Malware oder Phishing- Mails zu verfassen. Zu konkreten Fragen antwortet die KI entsprechend und gibt keine Informationen zur Erstellung heraus. Nur wenige Wochen nach der Vorstellung von Chat GPT demonstrierte das Cybersicherheitsunternehmen Check Point, wie der webbasierte Chatbot in Verbindung mit OpenAI’s Codex eine Phishing-E-Mail mit bösartigem Inhalt erstellen kann. Der Leiter der Threat Intelligence Group bei Check Point erklärte, dass Anwendungsfälle wie dieser zeigen, dass Chat GPT das Potenzial hat, die Cyber-Bedrohungslandschaft „erheblich zu verändern“ und fügte hinzu, dass dies einen weiteren Schritt vorwärts in der gefährlichen Entwicklung von immer ausgefeilteren und effektiveren Cyber-Fähigkeiten darstellt. Grundlegend kann man also bei entsprechenden Fragestellungen durchaus authentisch klingende Phishing-Mails verfassen – der Hauptangriffsvektor für Ransomware – was dazu führen wird, dass der Chatbot von Cyberkriminellen weithin in Anspruch genommen wird, insbesondere von solchen, deren Muttersprache nicht Englisch ist. Es ist also anzunehmen, dass es für realistischere interaktive Unterhaltungen zur Kompromittierung von Geschäfts-E-Mails und sogar für Angriffe über Facebook Messenger, WhatsApp oder andere Chat-Apps genutzt werden könnte. 

Alarmierend ist die offensichtliche Fähigkeit des Chatbots, Cyberkriminellen beim Schreiben von bösartigen Codes zu helfen. Es wurden mindestens drei Fälle beobachtet, in denen Hacker ohne technische Kenntnisse damit geprahlt haben, wie sie die KI von Chat GPT für bösartige Zwecke genutzt haben. Ein Hacker präsentierte in einem Dark-Web-Forum einen von Chat GPT geschriebenen Code, der angeblich interessante Dateien stahl, sie komprimierte und über das Internet verschickte. Ein anderer Benutzer postete ein Python-Skript, von dem er behauptete, es sei das erste Skript, das er je erstellt habe. Es wurde festgestellt, dass der Code zwar harmlos aussah, aber leicht modifiziert werden konnte, um den Computer einer anderen Person ohne jegliche Benutzerinteraktion zu verschlüsseln. Derselbe Forumsnutzer hat zuvor Zugang zu gehackten Firmenservern und gestohlenen Daten verkauft.

Essenz

• Chat GPT kann nicht zwischen richtig und falsch unterscheiden und das Potential für Fehlinformation bleibt immer abhängig vom Input. 
• Chat GPT ist eine von OpenAI entwickelte KI, die konversationell funktioniert
• Informationen können nur soweit verwendet werden, wie sie der KI zur Verfügung gestellt werden – sie kann nicht selbstständig recherchieren
• Aus Unternehmenssicht ist der Chatbot für die interne Kommunikation interessant – muss aber entsprechend aktualisiert und trainiert werden
• Eine Überprüfung der Inhalte ist stetig vorzunehmen und sollte vor allem hinsichtlich unternehmensbezogener und personenbezogener Daten erfolgen
• Chat GPT kann bösartige Codes schreiben und könnte die Cyberkriminalität auf ein neues Level bringen