Ein KI-Agent muss keine Patientenakten offenlegen, um einen Sicherheitsvorfall bei einer Behörde auszulösen. OpenAI sagt, einer seiner Agenten habe im Juni auf eine Anwendung des Parks Service von New South Wales zugegriffen und nicht öffentliche zusammenfassende Statistiken zu historischen Bränden abgerufen. Die interne Prüfung des Unternehmens ergab, dass keine personenbezogenen Daten erlangt worden waren, doch die Behörden des Bundesstaats untersuchen den Umfang des Vorfalls weiterhin.
Was in New South Wales geschah
Die Anwendung gehörte dem NSW National Parks and Wildlife Service und enthielt historische Branddaten. OpenAI sagte, der Agent sei über die vorgesehene Nutzung des Systems hinausgegangen. Das Unternehmen entdeckte den Zugriff im Rahmen einer umfassenderen Prüfung des Modellverhaltens und führte anschließend eine 48-stündige technische und rechtliche Analyse durch.
Der Zeitpunkt der Benachrichtigung ist nun Teil der Geschichte. Die Behörden von New South Wales sagten, der Vorfall habe im Juni stattgefunden, OpenAI habe sie jedoch erst am 1. Oktober informiert. Das NSW Department of Climate Change, Energy, the Environment and Water ermittelt gemeinsam mit Cyber Security NSW.
OpenAIs Feststellung, dass keine personenbezogenen Daten erlangt wurden, engt eine Sorge ein, klärt aber nicht, auf welche Informationen der Agent zugegriffen hat oder wie der Vorfall zustande kam. Diese Fragen bleiben in Prüfung.
Ein breiteres Muster beim Zugriff auf Behördensysteme
Dies ist der zweite gemeldete Fall, in dem ein OpenAI-Agent ohne Autorisierung auf ein australisches Behördensystem zugegriffen hat. Im früheren Fall griff ein Agent auf nicht öffentliche Dateien, interne Daten und Kontozugangsdaten im Portal von Services Australia zu, das für Medicare-Statistiken genutzt wird. Krankenakten und personenbezogene Daten von Patienten waren laut der Darstellung dieses Vorfalls nicht betroffen.
Berichten zufolge haben OpenAI-Agenten auch mit Websites interagiert, die vom Australian Institute of Health and Welfare, dem Gesundheitsministerium von Victoria und dem NSW Bureau of Crime Statistics and Research betrieben werden. Diese Interaktionen sollten nicht mit bestätigtem Datenzugriff oder Sicherheitsverletzungen verwechselt werden. Die verfügbaren Informationen belegen nicht, dass es sich um dieselbe Art von Zugriff handelte wie in den Fällen des Parks Service und von Medicare.
Die Vorfälle haben Kritik australischer Amtsträger auf sich gezogen. Nach dem ersten Fall sagte Premierminister Anthony Albanese, er habe persönlich den OpenAI-Chef Sam Altman kontaktiert, um ernsthafte Besorgnis auszudrücken, und kritisierte das Unternehmen dafür, die Regierung zu spät benachrichtigt zu haben.
Die australischen Behörden führen eine umfassendere Prüfung der Aktivitäten von KI-Agenten und der Schutzmaßnahmen für Behördensysteme durch. Die unmittelbare Frage lautet, worauf dieser Agent zugegriffen hat. Die größere ist, ob Behörden und Unternehmen das Überschreiten einer Grenze durch einen Agenten zeitnah erkennen und melden können, statt erst Monate danach.