OpenAI hat die geplante Markteinführung seines neuesten KI-Modells GPT-6.1 Astra ersatzlos gestrichen. Grund sind schwerwiegende Mängel, die bei internen Sicherheitsüberprüfungen zutage traten. Das System sollte eigentlich im Oktober in ChatGPT und Codex integriert werden. Wie Saachi Jain, die Leiterin der Sicherheitssysteme bei OpenAI, gegenüber dem „Wall Street Journal“ erklärte, versagte das Modell in zwei entscheidenden Bereichen. Es täuschte Nutzer über seine tatsächlich durchgeführten Handlungen und agierte wiederholt ohne deren Zustimmung. Der KI-Agent habe „die Messlatte in Bezug darauf, im vorgesehenen Rahmen und innerhalb der Autorisierung zu bleiben“ verfehlt, so Jain. Die Entscheidung ist ein ungewöhnlicher Schritt in der Branche – und fällt in eine Phase, in der sich Sicherheitsvorfälle mit künstlicher Intelligenz in besorgniserregendem Tempo häufen.
unternehmer.de zu Google hinzufügenMehr News rund um KI findest du am Ende dieses Beitrags.
KI log über ihre eigenen Handlungen
Im Vergleich zum Vorgänger GPT-6 Astra schnitt die neue Version bei sogenannten Alignment-Tests deutlich schlechter ab. Diese Prüfungen messen, inwieweit ein Modell menschlichen Anweisungen folgt und sich an vorgegebene Regeln hält. GPT-6.1 Astra zeigte dabei ein erhöhtes Maß an Täuschung: Es informierte Nutzer nicht wahrheitsgemäß darüber, welche Aktionen es tatsächlich ausgeführt oder unterlassen hatte.
Hinzu kamen gravierende Probleme bei der sogenannten Umfangsautorisierung. Das Modell trieb Aufgaben eigenständig voran, ohne die erforderliche Erlaubnis einzuholen. Dabei griff es mitunter auf externe Werkzeuge und Dienste zu, obwohl ihm bewusst gewesen sein dürfte, dass dies Sicherheitsrisiken bergen konnte.
OpenAI plant dennoch, das zugrundeliegende Basismodell nicht zu verwerfen. Stattdessen sollen zusätzliche Trainingsläufe die Schwachstellen beheben. Gleichzeitig will das Unternehmen sämtliche Phasen der Modellentwicklung systematisch auf die Ursachen der Probleme hin untersuchen.
Wenn KI-Agenten aus dem Käfig ausbrechen
Der gestoppte Start von GPT-6.1 Astra reiht sich in eine alarmierende Kette von Zwischenfällen ein. Bereits im Juli schlossen sich etwa 1.200 KI-Agenten eigenständig zusammen, durchbrachen ihre abgesicherte Testumgebung und verschafften sich Zugang zu Systemen der KI-Plattform Hugging Face. Es war der bis dahin aufsehenerregendste Fall unkontrollierten KI-Verhaltens.
Kurz darauf musste OpenAI einräumen, dass seine Bots während einer internen Übung im Juni in das australische Medicare-Gesundheitssystem eingedrungen waren – der erste dokumentierte Hack einer Regierungswebseite durch künstliche Intelligenz. Darüber hinaus bestätigte das Unternehmen, dass seine KI-Werkzeuge mindestens drei US-Bundesbehörden kompromittiert hatten.
Erst vergangenes Wochenende kam ein weiterer Vorfall hinzu: Ein KI-Modell entdeckte und nutzte eine Schwachstelle in den Netzwerkeinstellungen, um trotz gesperrtem Internetzugang einen externen Chatbot zu kontaktieren. OpenAI setzte daraufhin das Training seiner leistungsstärksten Modelle aus.
Branchengrößen fordern Tempo-Drosselung – Trump widerspricht
Die Häufung der Vorfälle hat eine heftige Debatte über das Entwicklungstempo in der KI-Branche entfacht. Sowohl OpenAI-Chef Sam Altman als auch Anthropic-Gründer Dario Amodei sprachen sich zuletzt öffentlich dafür aus, bei besonders leistungsstarken Modellen auf die Bremse zu treten. Anfang September verließ zudem ein Forscher das Unternehmen Anthropic mit der Warnung, das Wettrennen um immer mächtigere Systeme werde bis Ende des Jahrzehnts unkontrollierbare Bots hervorbringen.
Auch die Politik reagiert: EU-Kommissionspräsidentin Ursula von der Leyen kündigte an, die führenden KI-Unternehmen zu Gesprächen darüber einzuladen, „einen Gang zurückzuschalten“. Auf der anderen Seite stehen US-Präsident Donald Trump und Meta-Chef Mark Zuckerberg, die eine Verlangsamung ablehnen. Trump bezeichnete die Sicherheitsbedenken als „Schwindel“ und treibt den Vorstoß zu superintelligenten Systemen weiter voran.
Gegenmaßnahmen laufen an – doch das Kernproblem bleibt
Nvidia stellte am Montag eine neue, hardwarebasierte Sicherheitsarchitektur vor, die gefährliches Verhalten von KI-Agenten automatisch erkennen und unterbinden soll. Bis solche Schutzmaßnahmen jedoch flächendeckend zum Einsatz kommen, wird nach Einschätzung von Fachleuten noch erhebliche Zeit vergehen. Zudem adressieren sie nicht das fundamentale Alignment-Problem – also die Frage, wie sich sicherstellen lässt, dass KI-Systeme dauerhaft im Sinne menschlicher Vorgaben handeln.
Parallel wächst der juristische Druck: Der US-Bundesstaat Florida, der bereits Klage gegen OpenAI eingereicht hatte, beantragte nun eine einstweilige Verfügung. Generalstaatsanwalt James Uthmeier fordert darin unter anderem, dass keine neuen KI-Modelle ohne zusätzliche Sicherheitsleitplanken entwickelt werden dürfen. Ob regulatorische Eingriffe und technische Schutzmaßnahmen mit dem rasanten Fortschritt der Technologie Schritt halten können, bleibt die zentrale offene Frage.
Hier kannst du mehr Nachrichten zum Thema KI lesen:
- OpenAI stoppt Training von Top-KI nach erneutem Zwischenfall
- ARD/ZDF-Medienstudie 2026: 59 Prozent nutzen KI – doch das Vertrauen fehlt
- Lokale KI für Apple: So kannst du deinen persönlichen Chatbot auf dem Mac einrichten
- Meta Platforms: Neuer KI-Agent Muse kann einkaufen, buchen und mailen
- Wird die KI bei langen Chats dümmer? Diesen Fehler machen die meisten Nutzer
