Sicherheitsexperten der Cloud-Security-Firma Sysdig haben einen beunruhigenden Meilenstein dokumentiert: den ersten vollständig von einem KI-Agenten durchgeführten Ransomware-Angriff. Die als Jadepuffer bezeichnete KI agierte dabei weitgehend ohne menschliche Steuerung. Dabei drang sie eigenständig in Produktionssysteme ein, stahl Zugangsdaten und verschlüsselte sensible Informationen. Der Vorfall markiert eine neue Dimension der Cyberkriminalität: Während KI-Tools bislang nur als Hilfsmittel für menschliche Angreifer dienten, übernahm das Modell hier selbst sämtliche Schritte einer klassischen Erpressungskampagne.
Allerdings offenbarte der digitale Angreifer auch seine Schwächen. Die KI beging mehrere gravierende Fehler, die einem erfahrenen menschlichen Täter kaum unterlaufen wären – darunter die Verwendung einer bekannten Beispiel-Bitcoin-Adresse und das Versäumnis, den Entschlüsselungsschlüssel zu sichern.
Mehr zum Thema Cybersicherheit kannst du am Ende dieses Beitrags finden.
Einfallstor: Eine ungepatchte Sicherheitslücke
Laut dem Cybersicherheits-Blog „Security Affairs“ verschaffte der KI-Agent sich seinen ersten Zugang über eine Schwachstelle in Langflow, einem Open-Source-Framework zur Entwicklung von KI-Anwendungen. Eine Sicherheitslücke ermöglichte es, ohne Authentifizierung beliebigen Python-Code auf dem betroffenen System auszuführen. Nach dem erfolgreichen Eindringen begann Jadepuffer systematisch nach wertvollen Informationen zu suchen.
Der Agent erbeutete Cloud-Zugangsdaten verschiedener Anbieter, API-Schlüssel und Datenbankkennungen. Um dauerhaft im System zu bleiben, richtete die KI einen automatischen Rückrufmechanismus ein, der alle 30 Minuten Kontakt zur Angreifer-Infrastruktur aufnahm. Das eigentliche Ziel war ein separater Server. Dort legte Jadepuffer versteckte Administratorzugänge an und verschlüsselte schließlich mehr als 1.300 Konfigurationseinträge. Die Originaldateien wurden anschließend gelöscht.
Wenn die KI den eigenen Schlüssel vergisst
Bei der Lösegeldforderung unterliefen dem KI-Agenten Fehler, die einem menschlichen Erpresser wohl eher peinlich wären. Die angegebene Bitcoin-Wallet-Adresse stammt aus öffentlich verfügbarer Dokumentation – eine typische Beispieladresse, wie sie in Cybersecurity-Schulungsmaterialien verwendet wird. Ein menschlicher Täter hätte kaum eine solche Adresse gewählt. Noch gravierender: Jadepuffer generierte den AES-Verschlüsselungsschlüssel zufällig, speicherte ihn aber nirgendwo ab.
Selbst bei Zahlung des Lösegelds wäre eine Wiederherstellung der Daten unmöglich gewesen. Die KI löschte zudem die Originaldaten, ohne vorher Sicherungskopien anzulegen. Auch bei der Beschreibung der verwendeten Verschlüsselungsmethode übertrieb der Agent maßlos. Diese Aneinanderreihung typischer LLM-Fehler zeigt: Der digitale Angreifer agierte zwar autonom, aber ohne das strategische Denken eines erfahrenen Cyberkriminellen.
Fähigkeiten der Hacker-KI bleiben dennoch beunruhigend
Trotz der peinlichen Patzer zeigte Jadepuffer bemerkenswerte Fähigkeiten. Als ein Login-Versuch scheiterte, hatte der KI-Agent innerhalb von nur 31 Sekunden eine funktionierende Alternative gefunden. Diese Reaktionsgeschwindigkeit übertrifft die meisten menschlichen Angreifer deutlich.
Besonders auffällig war die Art, wie die KI ihren eigenen Code dokumentierte. Die erzeugten Schadprogramme enthielten ausführliche Kommentare in natürlicher Sprache, die jeden einzelnen Schritt begründeten und mögliche Ziele priorisierten. Ein menschlicher Hacker würde seine Skripte kaum mit derart detaillierten Erklärungen versehen.
Der Agent passte seine Vorgehensweise flexibel an Hindernisse an und korrigierte eigene Fehler selbstständig. Diese autonome Fehlerkorrektur in Echtzeit macht Angriffe robuster gegen typische Abwehrmaßnahmen. Laut den Sysdig-Forschern deutet dieses Verhalten eindeutig auf ein großes Sprachmodell als Steuerungsinstanz hin.
Programmieren war gestern
Die Sicherheitsexperten von Sysdig ziehen ein ernüchterndes Fazit: Ransomware-Angriffe erfordern künftig keine umfangreichen Programmierkenntnisse mehr. Sprachmodelle können Attacken eigenständig planen, durchführen und auftretende Probleme autonom beheben. Dadurch sinkt die technische Einstiegshürde für Kriminelle erheblich.
Besonders gefährdet sind Systeme ohne aktuelle Sicherheitsupdates. KI-Agenten können automatisiert nach solchen verwundbaren Zielen suchen und bekannte Schwachstellen gezielt ausnutzen. Die Forscher empfehlen Unternehmen dringend, betroffene Langflow-Versionen zu aktualisieren, Nacos-Systeme nicht direkt aus dem Internet erreichbar zu machen und Standard-Schlüssel zu ersetzen.
Zwar setzte Jadepuffer keine neuartigen Angriffstechniken ein – bemerkenswert ist jedoch, dass ein Sprachmodell bekannte Methoden eigenständig zu einer kompletten Erpressungskampagne verknüpfen konnte. Noch steckt die Cybercrime-KI in den Kinderschuhen, doch es ist nur eine Frage der Zeit, bis irgendwann eine echte Bedrohung daraus erwachsen könnte.
Hier kannst du mehr rund um Cybersecurity lesen:
Interessant, dass der maßgebliche Herstellungsprozess entscheidend ist und nicht jedes Einzelteil aus Deutschland stammen muss. Ähnlich ist es beim Sprachenlernen:…
This is a thoughtful take on zeitfresser entlarven: 7 dinge, die dich täglich wertvolle zeit kosten. The practical examples really…
This is a thoughtful take on mit dem ganzheitlichen vierklang souveräner führung zum performanten unternehmen. The practical examples really help…