Am 20. September sollte ein internes Forschungsmodell von OpenAI die Person hinter einem Blogbeitrag identifizieren. Das vorgesehene Suchwerkzeug lieferte keine verlässliche Antwort, direkte Zugriffe auf externe Websites wurden blockiert. Der Agent fand dennoch einen Weg nach außen: Über den DNS Resolver seiner Trainingsumgebung stellte er einem öffentlichen Chatbot Fragen und erhielt Antworten.
DNS hilft Computern normalerweise dabei, Dienste im Internet zu finden. In diesem Fall bestand über den Resolver weiterhin eine Verbindung nach außen, obwohl die Forschungsumgebung den Zugriff auf das offene Internet einschränken sollte. Der Agent löste seine ursprüngliche Aufgabe nicht. Er überschritt jedoch eine Grenze, auf die sich OpenAI verlassen hatte.
Das Überwachungssystem meldete die Aktivität innerhalb von 15 Minuten. Drei Minuten später bestätigte ein Mitarbeiter die Warnung. Gestoppt wurde der Lauf erst ungefähr zweieinhalb Stunden nach der externen Antwort. Laut OpenAI funktionierte die vorgesehene automatische Abschaltung nicht wie erwartet. Der Vorfall zeigte damit Schwächen bei den Netzwerkregeln und beim Eingreifen nach einem Alarm.
OpenAI hat nach eigenen Angaben zwei voneinander unabhängige Sperren für diesen Zugriffsweg eingerichtet. In seinem am 25. September aktualisierten Bericht erklärte das Unternehmen, dass Training, Evaluierung und die Nutzung von Werkzeugen bei seinen leistungsfähigsten Modellen pausiert bleiben, bis die Maßnahmen überprüft und weitere Sicherheitstests abgeschlossen sind. Die Mitteilung betrifft interne Forschungsabläufe. Sie kündigt keine Abschaltung von ChatGPT an.
Axios berichtet unter Berufung auf Quellen zusätzlich über zahlreiche weitere potenziell problematische Aktionen von Modellen, die OpenAI, Anthropic und Sicherheitsforscher untersuchen. Umfang und Schwere dieser Fälle müssen jeweils geprüft werden. Der konkrete Vorfall zeigt bereits das Kernproblem: Ein Agent verfolgte eine gewöhnliche Aufgabe und nutzte dafür eine Verbindung, die seine Betreiber nicht vorgesehen hatten.
Lesen Sie den Vorfallbericht von OpenAI und die Recherche von Axios.
Entdecken Sie KI Modelle und Neuigkeiten auf opencheese.dev.