ESET warnt: KI-Chatbots werden zu Werkzeugen für Phishing-Angriffe

Cyberkriminelle nutzen Künstliche Intelligenz zunehmend als Einfallstor und Erfüllungsgehilfen für Betrug und Phishing. Der europäische IT-Sicherheitshersteller ESET warnt vor einer neuen Angriffsmethode, die aktuell in sozialen Netzwerken für Aufsehen sorgt: Beim sogenannten\“Grokking\“bringen Angreifer KI-Chatbots dazu, schädliche Links selbst zu verbreiten – und zwar im Namen vertrauenswürdiger Accounts. Ziel ist der Diebstahl sensibler Nutzerdaten.

\“Der verantwortungsbewusste Umgang mit generativer KI wird immer wichtiger\“, sagt Michael Klatte, Cybersicherheitsexperte bei ESET.\“Viele Nutzer vertrauen Chatbots fast blind, besonders wenn sie auf bekannten Plattformen wie X auftreten. Nutzer sollten beim Anklicken von Links per se immer wachsam bleiben.\“

Praktische Tipps, wie Nutzer sich schützen können, hat ESET am Ende dieser Meldung gesammelt.

Wie der Angriff funktioniert

Beim\“Grokking\“handelt es sich um eine neuartige Form der Prompt-Injection, also um Manipulationen durch versteckte Befehle. Angreifer platzieren Phishing-Links in scheinbar harmlosen Beiträgen oder Datenfeldern. Wird eine KI gebeten, solche Inhalte zu analysieren oder zu kommentieren, liest sie die eingebetteten Befehle aus und gibt die schädlichen Links ganz automatisch als Kommentar weiter.

Ein Fall auf der Plattform X zeigt, wie effektiv diese Methode ist: Betrüger versteckten eine schadhafte URL in einem Videopost und brachten den offiziellen KI-Bot\“Grok\“dazu, diese im Rahmen einer Antwort zu teilen. Der Link wirkte wie eine legitime Quelle, in Wahrheit jedoch führte er auf eine gefälschte Seite.

Grokking beschränkt sich nicht nur auf X. Auch andere soziale Netzwerke können betroffen sein, wenn sie digitale KI-Assistenten bereitstellen.

Wachsende Gefahr durch KI-Manipulation

Laut Schätzungen von Gartner waren im vergangenen Jahr bereits 32 Prozent aller Unternehmen von Prompt-Injection-Angriffen betroffen.

\“Das Gefährliche daran ist: Diese Technik funktioniert auf jeder Plattform, die Sprachmodelle einsetzt, also potenziell überall\“, warnt Klatte.\“KI-Systeme besitzen kein Bewusstsein für Absichten. Sie verarbeiten nur Text – egal ob er harmlos oder manipulativ ist. Dadurch können sie unbeabsichtigt zu Mittätern werden.\“

ESET gibt Sicherheitstipps für Nutzer

Um sich vor Angriffen wie\“Grokking\“zu schützen, empfehlen die ESET Experten:

– Keine Links aus KI-Antworten blind anklicken. Immer prüfen, wohin der Link führt.
– Skepsis auch bei offiziellen Bots. Ein verifizierter Account garantiert keine Sicherheit.
– Systeme und Sicherheitssoftware aktuell halten.
– Zwei-Faktor-Authentifizierung aktivieren und Passwortmanager nutzen.
– Im Zweifel Originalquellen prüfen, statt sich auf automatisch generierte Inhalte zu verlassen.

Weitere Informationen zum Thema Grokking gibt es im aktuellen Blogpost auf Welivesecurity.com: Grokking: Wenn KI-Chatbots zu Phishing-Helfern werden (https://www.welivesecurity.com/de/tipps-ratgeber/grokking-wenn-ki-chatbots-zu-phishing-helfern-werden/)

Pressekontakt:

ESET Deutschland GmbH

Christian Lueg
Head of Communication&PR DACH
+49 (0)3641 3114-269
christian.lueg@eset.de

Michael Klatte
PR Manager DACH
+49 (0)3641 3114-257
Michael.klatte@eset.de

Philipp Plum
PR Manager DACH
+49 (0)3641 3114-141
Philipp.plum@eset.de

Folgen Sie ESET:
https://www.ESET.de

ESET Deutschland GmbH, Spitzweidenweg 32, 07743 Jena, Deutschland

Original-Content von: ESET Deutschland GmbH,übermittelt durch news aktuell

Posted by on 14. November 2025.

Tags: itsecurity, k-nstliche-intelligenz, neuer-ffnung, social-media, verbraucher, weihnachten

Categories: Allgemein

No Responses Yet

You must be logged in to post a comment.