Warum Tools wie ChatGPT gerade die Phishing-Welt verändern
(Spoiler: und nicht zum Guten)

Künstliche Intelligenz kann viele erstaunliche Dinge: eine Geschichte erzählen, Programmcode schreiben, komplexe Sachverhalte einfach wiedergeben oder ganz einfach ein Menü auf Basis ein paar einzelner Restbestände im Kühlschrank vorschlagen. Das ist alles ziemlich cool. Tools wie ChatGPT können aber auch verdammt gute Phishing-Texte schreiben. Gar nicht cool

Gemäss eines Berichts von IBM gehörte Phishing 2022 neben gestohlenen Credentials zu den meist genutzten initialen Angriffsvektoren und dies bei den gleichzeitig grössten Schadenskosten von durchschnittlich knapp 5 Mio USD pro Vorfall. Phishing dürfte also ein sehr gutes Business-Modell sein für die kriminellen Organisationen dahinter und es muss damit gerechnet werden, dass dieser Bereich weiter massiv ausgebaut wird.

ChatGPT wird diese Entwicklung leider beschleunigen und Angreifer dabei tatkräftig unterstützen.

Auf Basis des Large Language Models schafft ChatGPT Texte in einer erstaunlichen Qualität und Präzision und dies alles in nur wenigen Sekunden. Phishing-Kampagnen werden gleich mehrfach davon profitieren können:

• • Qualität: Die KI-generierten Texte stehen praktisch in allen Sprachen zur Verfügung, sind fehlerfrei und von hoher Qualität.
  • Glaubwürdigkeit: Die Inhalte sind realistisch und klingen glaubwürdig – die Zeiten von afrikanischen Prinzen, die ihr Geld weitergeben möchten, sind wohl vorbei.
  • Authentizität: Intelligente Chatbots können dabei auch den Sprachstil bestimmter Personen, Gruppen oder Branchen kopieren, was die Glaubwürdigkeit und Authentizität einer E-Mail steigert.
  • Zielbarkeit: Damit wird auch das Erzeugen von spezifischen E-Mails für gezielte Attacken massiv vereinfacht. Eine Phishing-E-Mail lässt sich sehr einfach für eine Zielperson und einen bestimmten Use Case generieren.
  • Automatisierung: Komplexe Phishing-Attacken und E-Mail-Fraud kommen nicht mit einer einzigen E-Mail alleine aus – im Gegenteil: das Vertrauen des Opfers muss zuerst über eine längere Zeit aufgebaut und gewonnen werden. Tools wie ChatGPT haben die Fähigkeit, auf vorangegangenen Konversationen aufzubauen und können dazu eingesetzt werden, diesen Kommunikationsverlauf zu weiten Teilen zu automatisieren.
  • Skalierbarkeit: Angreifer gewinnen mit ChatGPT massiv an Skalierbarkeit. Phishing-E-Mails lassen sich in hoher Qualität und allen gängigen Sprachen innert kürzester Zeit hervorbringen. Variationen davon sind auf Knopfdruck jederzeit in Sekunden möglich.

Gezielte, qualitativ hochstehende Phishing-Kampagnen lassen sich mit KI in nächster Zukunft automatisiert und mit hoher Skalierbarkeit erzeugen. Für Angreifer bedeutet dies primär, dass Phishing günstiger, noch profitabler und damit noch attraktiver wird.

Was das für Unternehmen bedeutet, muss hier wohl nicht weiter ausgeführt werden. Phishing und gezielte E-Mail-Attacken müssen auf jeden Fall auf die Agenda jedes Security-Verantwortlichen. Bestehende Initiativen wie Phishing-Awareness und Simulationen sind gut und sollen weitergeführt werden, es braucht aber zusätzliche Mittel, um den KI-basierten Phishing-Attacken Herr zu werden.

Neue E-Mail-Security-Lösungen stehen bereit, um bestehende Standard E-Mail Gateways und MS 365/Exchange Online Protection wirksam zu ergänzen. Sie basieren auf lokalem Kontext, Vertrauensmodellen und KI und können Anomalien, neue Angriffsmethoden und gezielte Attacken zuverlässig erkennen. Zudem erlauben sie, smarten Benutzern verdächtige E-Mails zu melden und reagieren umgehend darauf, indem sie weitere ähnliche Nachrichten blockieren und bestehende E-Mails aus den entsprechenden Mailboxen entfernen.

Es wird auf jeden Fall ein optimales Zusammenspiel von Mensch und Tools brauchen – von smarten Benutzern, über Security-Ingenieure bis hin zur KI –, um der bevorstehenden Welle von Phishing-Angriffen standzuhalten.

Phishing zuverlässig blockieren dank lokalem Kontext, KI und menschlicher Intelligenz: www.avantec.ch/loesungen/xorlab/