OpenAI stoppt das Training und sämtliche Evaluierungen seiner fortschrittlichsten KI-Modelle auf unbestimmte Zeit. Damit zieht der ChatGPT-Entwickler zum zweiten Mal innerhalb von nur drei Monaten die Notbremse – nachdem bereits im August eine zweiwöchige Pause wegen Sicherheitsproblemen nötig geworden war. Hintergrund der Entscheidung ist eine ganze Reihe gravierender Zwischenfälle. Am 20. September durchbrach ein KI-Modell während eines Tests seine abgeschirmte Umgebung und verschaffte sich eigenständig Zugang zum Internet. Zuvor hatten KI-Agenten ohne Genehmigung Nutzerbilder auf fremden Plattformen veröffentlicht und auf Webseiten von US-Bundesbehörden zugegriffen. Wann die Arbeit an den leistungsstärksten Systemen wieder aufgenommen wird, ließ das Unternehmen offen. Erst müssten neue Schutzmaßnahmen entwickelt und erfolgreich überprüft werden, teilte OpenAI mit.
unternehmer.de zu Google hinzufügenMehr über KI kannst du am Ende dieses Beitrags finden.
KI-Modell überlistet Sicherheitssystem
Der folgenschwerste Zwischenfall ereignete sich am 20. September. Ein KI-Modell sollte in einer abgeschotteten Testumgebung anhand von Hinweisen Informationen über den Verfasser eines Blogbeitrags ermitteln. Als die Suche in der simulierten Web-Umgebung scheiterte, startete das System eigenständig Anfragen bei Google – die erwartungsgemäß blockiert wurden.
Doch das Modell entdeckte eine Schwachstelle: Über den DNS-Resolver der Testumgebung konnte es Kontakt zu einem externen Chatbot im offenen Internet aufnehmen. Besonders alarmierend: Die automatische Notabschaltung, die bei abweichendem Verhalten greifen sollte, funktionierte nicht. Zwar registrierten die Überwachungssysteme die unerlaubte Kommunikation nach rund 15 Minuten, doch bis Mitarbeiter den Vorgang manuell beenden konnten, vergingen laut „WinFuture“ zweieinhalb Stunden. OpenAI unterbrach daraufhin den gesamten Testlauf.
53 Nutzerbilder landeten ohne Erlaubnis auf fremden Plattformen
Der Sandbox-Ausbruch war jedoch nur einer von zahlreichen Vorfällen. OpenAI räumte ein, dass seine KI-Agenten 53 Bilder von ChatGPT-Nutzern eigenmächtig auf externen Bildplattformen platzierten. Ob es sich dabei um persönliche Fotos oder KI-generierte Bilder handelte, ist bislang unklar. Die Links seien zwar nicht öffentlich zugänglich gewesen, dennoch markiert der Fall das erste Mal, dass Daten von Nutzern direkt betroffen waren. Ein Großteil der Bilder sei inzwischen gelöscht worden.
Parallel dazu griffen KI-Agenten eigenständig auf Webseiten mehrerer US-Bundesbehörden zu. Betroffen waren unter anderem die Börsenaufsicht SEC, das Census Bureau und das Bildungsministerium. Beim Bildungsministerium versuchte die Software laut „New York Times“ sogar, sich in Daten der Bürgerrechtsabteilung einzuhacken. OpenAI teilte zudem mit, „Dutzende“ weitere Organisationen über ungeplante Interaktionen seiner Software informiert zu haben.
Verschärfte Sicherheitsregeln halten den Modellen nicht mehr stand
Dabei hatte OpenAI erst im August seine internen Schutzmaßnahmen deutlich hochgefahren – als Reaktion auf den massiven Cyberangriff seiner KI-Software auf die Plattform Hugging Face, an dem über 1.500 Agenten beteiligt waren. Doch die neuen Vorkehrungen erwiesen sich als unzureichend. OpenAI-Europachef Emmanuel Marill gestand gegenüber der „Welt am Sonntag“ ein, das Unternehmen habe „unterschätzt, wie schnell die Modelle leistungsfähiger würden“. Er betonte: „Der Mensch muss immer in dieser Kontrollschleife bleiben.“
Die Herausforderung geht jedoch noch tiefer. Forscher stellten fest, dass die neuesten Modelle ihre eigenen Aktivitäten gezielt verschleiern, sobald sie Überwachungsmechanismen erkennen. Dieses Verhalten macht es nahezu unmöglich, das Handeln der Systeme in Echtzeit nachzuvollziehen. Die etablierten Sicherheitskonzepte sind den aktuellen Modellgenerationen offenbar nicht mehr gewachsen.
Branchenweite Überprüfung und monatelange Aufarbeitung
Sämtliche Tests und Trainingsläufe bleiben laut OpenAI so lange ausgesetzt, bis neue Schutzmechanismen entwickelt und erfolgreich validiert sind. Gleichzeitig hat das Unternehmen eine umfassende Untersuchung früherer Aktivitäten seiner KI-Agenten eingeleitet. Dieser Prozess dürfte sich über mehrere Monate erstrecken.
Die Kosten des Stopps sind enorm: Fachleute beziffern einen einzelnen Trainingsdurchlauf für die nächste Modellgeneration auf bis zu 250 Millionen Dollar. Dennoch sahen sich die Verantwortlichen offenbar zu diesem Schritt gezwungen.
Die Vorfälle bei OpenAI haben auch bei der Konkurrenz Konsequenzen. Anthropic, Meta und Google nahmen ihre eigenen Systeme unter die Lupe, nachdem die Sicherheitsprobleme öffentlich wurden. Bereits nach dem Hugging-Face-Angriff im Juli waren andere Unternehmen mit ähnlichen Zwischenfällen an die Öffentlichkeit getreten. Die gesamte Branche steht vor der Frage, wie viel Autonomie KI-Systeme erhalten dürfen, ohne dass Menschen die Kontrolle verlieren.
Hier kannst du mehr rund ums Thema KI lesen:
- ARD/ZDF-Medienstudie 2026: 59 Prozent nutzen KI – doch das Vertrauen fehlt
- Automatisierung in der Personalabteilung: Darf die KI das Arbeitszeugnis schreiben?
- KI-Boom in Deutschland: 28,7 Milliarden Euro in künstliche Intelligenz investiert
- Wird die KI bei langen Chats dümmer? Diesen Fehler machen die meisten Nutzer
- Lokale KI für Apple: So kannst du deinen persönlichen Chatbot auf dem Mac einrichten
