Wichtige Regeln für den Einsatz von ChatGPT

Gefahren für Unternehmen – Wie Cyberkriminelle ChatGPT ausnutzen

Umgang mit KI in Unternehmen: Wichtige Regeln für den Einsatz von ChatGPT

KI-Anwendungen werden von vielen Deutschen verwendet. Auch in Unternehmen kommen sie zum Einsatz, um etwa mittels ChatGPT schnell Codes zu generieren. Allerdings nutzen Cyberkriminelle die Fehleranfälligkeit des Programms. Worauf Unternehmen im Umgang mit ChatGPT und Co. daher achten müssen.

Anwendungen, die auf Künstlicher Intelligenz basieren, sind in der Mitte der Gesellschaft angekommen. Rund die Hälfte der Deutschen hat laut dem „Meinungsmonitor Künstliche Intelligenz“ eine positive Haltung zu KI-Programmen wie ChatGPT, etwa ein Fünftel der Deutschen hat laut Bitkom die Texterstellungssoftware schon einmal verwendet. 44 Prozent haben allerdings auch Angst vor KI und ihren Auswirkungen. Und tatsächlich können KI-Anwendungen zwar einerseits sehr nützlich sein, andererseits erhöhen sie die Gefahr für die Cybersicherheit von Unternehmen.

Cyberkriminelle platzieren schadhafte Codes in ChatGPT

ChatGPT ist nicht nur in der Lage, eine Geburtstagsrede oder die Zusammenfassung eines wissenschaftlichen Artikels zu verfassen, sondern kann auch zur Erstellung von Codes genutzt werden. Das Problem dabei: ChatGPT neigt nach wie vor dazu, auf Anfragen mit erfundenen Antworten, Quellenangaben und Verzeichnissen zu reagieren. Cyberkriminelle nutzen diese Fehlfunktion, um schadhaften Code an eben diesen von ChatGPT erfundenen Stellen zu platzieren.

Greifen Unternehmen auf diese Quellen zu und laden die entsprechenden Codes herunter, gefährden sie dadurch massiv die Sicherheit ihrer Systeme. Der Grundsatz lautet daher, niemals ungeprüfte Codes von ChatGPT herunterzuladen und auszuführen! Jede generierte Codezeile muss in sicherer Umgebung getestet werden, zusätzlich sind regelmäßige, geschützte Kopien der ursprünglichen Systemcodes unabdingbar.

Einsatz von KI in Unternehmen – das gilt es zu beachten

Um bei der Arbeit mit KI-Programmen keine zusätzlichen Gefahren zu erzeugen, sollten Unternehmen einige grundlegende Regeln im Blick behalten. Dazu gehören:

Risikobewusstsein: Ein sorgenloser Umgang mit ChatGPT und Co. kann schnell gefährlich werden. Es ist wichtig, ein Bewusstsein für die negativen Auswirkungen, die KI haben kann, zu schaffen.
Datensensibilität: Mitarbeitende sollten KI-Programme nicht mit sensiblen Daten wie Passwörtern oder persönlichen Informationen füttern.
Bewährte Sicherheitspraktiken: Was für alle Bereiche gilt, gilt im Umgang mit KI besonders: Mitarbeitende müssen bewährte Sicherheitspraktiken anwenden, ihre Passwörter regelmäßig ändern und sensible Informationen schützen.
Grenzen kennen: Unternehmen müssen sich dessen bewusst sein, dass ChatGPT noch kein ausgereiftes Programm ist und daher regelmäßig an seine Grenzen stößt. Es ist in seiner Verständnisfähigkeit nach wie vor stark eingeschränkt, alle Erzeugnisse des Programms müssen daher stets genauestens geprüft werden.

KI als Sicherheitsassistent

Gleichzeitig können KI-Anwendungen wie ChatGPT auch mehr als nützliche Gehilfen bei der Abwehr von Cybergefahren sein. So dient das Programm etwa zur Überprüfung von Software auf Sicherheitslücken. Die KI muss dazu nur mit wenigen Daten trainiert werden und entlastet menschliche Mitarbeitende, die auf diese Weise Sicherheitschecks durchführen können, ohne grundlegende Mechanismen der überprüften Software verstehen zu müssen. Zusätzlich kann ChatGPT als Spam-Filter eingesetzt werden. Die KI ist dabei deutlich effizienter und exakter als ein herkömmliches Spam-Programm.

ChatGPT kann damit vor allem seine menschlichen Kolleg:innen entlasten, die durch die Zunahme von Cybersecurity-Vorfällen und die Flut an sicherheitsrelevanten Meldungen, die tagtäglich abgearbeitet werden müssen, schlichtweg an ihre Grenzen gelangen. Die KI übernimmt dabei eine erste Auswertung und kann grundlegende Überprüfungen durchführen, der Mensch konzentriert sich auf die wirklich wichtigen Ereignisse. Unternehmensverantwortliche können so von den Vorteilen von KI-Anwendungen wie ChatGPT profitieren und gleichzeitig die Risiken für die Sicherheit ihrer eigenen Systeme minimieren.

Das Wichtigste in Kürze

Cyberkriminelle platzieren schadhaften Code an von ChatGPT erfundenen Quellen und Verzeichnissen
Unternehmen dürfen KI-generierten Code niemals ungeprüft ausführen — Tests in sicherer Umgebung sind Pflicht
ChatGPT kann auch als Sicherheitsassistent eingesetzt werden: für Code-Audits, Spam-Filterung und Vorfallsanalyse

Key Facts

KI-Nutzung Deutschland: Rund ein Fünftel der Deutschen hat ChatGPT bereits verwendet (Bitkom)

Hauptrisiko: ChatGPT erfindet Quellenangaben und Verzeichnisse — Angreifer platzieren dort schadhaften Code

Sicherheitsregel Nr. 1: Niemals ungeprüfte Codes von ChatGPT herunterladen und ausführen

KI als Verteidiger: ChatGPT kann als Spam-Filter und für automatisierte Sicherheitschecks eingesetzt werden

Fakt: Deepfake-basierte Social-Engineering-Angriffe stiegen laut Europol 2024 um 550 Prozent.

Fakt: KI-gestützte Cyberangriffe stiegen laut Darktrace 2024 um 135 Prozent.

Häufige Fragen

Wie nutzen Cyberkriminelle ChatGPT für Angriffe?

ChatGPT neigt dazu, nicht existierende Quellen und Paketverzeichnisse zu erfinden. Angreifer registrieren diese erfundenen Quellen und platzieren dort Schadcode. Wenn Entwickler den von ChatGPT empfohlenen Code herunterladen, infizieren sie ihre Systeme.

Welche Regeln sollten Unternehmen für den KI-Einsatz aufstellen?

Unternehmen brauchen klare Richtlinien: kein Füttern der KI mit sensiblen Daten, kein ungeprüftes Ausführen von generiertem Code, regelmäßige Passwortänderungen und ein grundsätzliches Bewusstsein für die Fehleranfälligkeit der Technologie.

Kann ChatGPT auch die Cybersicherheit verbessern?

Ja. ChatGPT kann Software auf Sicherheitslücken prüfen, als intelligenter Spam-Filter fungieren und eine erste Auswertung sicherheitsrelevanter Meldungen übernehmen. Dies entlastet IT-Security-Teams bei der täglichen Vorfallsanalyse.

Dürfen Mitarbeitende sensible Firmendaten in ChatGPT eingeben?

Nein. Mitarbeitende sollten keine Passwörter, persönliche Informationen oder vertrauliche Geschäftsdaten in KI-Systeme eingeben. Die eingegebenen Daten könnten für das Training verwendet werden oder durch Sicherheitslücken zugänglich werden.

Wie kann man KI-generierten Code sicher verwenden?

Jede von ChatGPT generierte Codezeile muss in einer isolierten Sandbox-Umgebung getestet werden. Zusätzlich sollten regelmäßige, geschützte Backups der originalen Systemcodes angelegt werden, um im Schadensfall schnell wiederherstellen zu können.