Ein Modell, das beim Beheben von Sicherheitslücken hilft, kann auch dabei helfen, daraus funktionsfähige Exploits zu machen. Das neue GPT-6 Cyber von OpenAI tut beides, und das Unternehmen beschränkt den Zugang auf überprüfte Sicherheitsspezialisten, nachdem es das Modell in seinem eigenen System zur Bewertung von Cyberrisiken als Critical eingestuft hat.
Die Ergebnisse, mit getrennt ausgewiesenen Zahlen
OpenAI stellte GPT-6 Cyber am 5. November als Cybersicherheitsmodell zur Suche nach ausnutzbaren Schwachstellen und zur Entwicklung von Korrekturen vor. Das Unternehmen berichtet über Arbeiten an Firefox und dem Linux-Kernel, darunter zuvor unbekannte Sicherheitslücken und funktionsfähige Exploits.
Die Zahlen beschreiben unterschiedliche, teilweise überlappende Kategorien:
| Berichtete Arbeiten | Anzahl | Bedeutung |
|---|---|---|
| Entdeckungen in Firefox | 81 | Zuvor unbekannte Schwachstellen, die mithilfe des Modells gefunden wurden |
| Exploits für den Linux-Kernel | 948 | Schwachstellen, für die mithilfe des Modells funktionsfähige Exploits entwickelt wurden |
| Zuvor unbekannte Linux-Sicherheitslücken | 588 | Schwachstellen innerhalb dieser Gesamtzahl für den Linux-Kernel, die laut OpenAI zuvor unbekannt waren |
| Meldungen an Entwickler | 304 | Kritische Probleme, die zusammen mit vorgeschlagenen Korrekturen an Entwickler gemeldet wurden |
Mozilla stufte die Firefox-Schwachstellen als schwerwiegend ein und begann, Korrekturen zu veröffentlichen.
Bei den Linux-Zahlen ist besondere Sorgfalt geboten. OpenAI berichtet von funktionsfähigen Exploits für 948 Schwachstellen, von denen 588 als zuvor unbekannt beschrieben werden. Das Unternehmen behauptet nicht, dass alle 948 neu entdeckt wurden.
Wie die 304 kritischen Probleme mit den anderen Zahlen zusammenhängen, wird nicht angegeben. Die Werte in diesen Zeilen sollten nicht zu einer Gesamtsumme addiert werden. Die Rechnung wäre beeindruckend, aber falsch.
Critical beschreibt das potenzielle Risiko des Modells
GPT-6 Cyber fällt bei OpenAI in die Kategorie Critical für potenzielle Cybersicherheitsrisiken. Sein Vorgänger, GPT-5.6 Cyber, wurde im Bewertungssystem des Unternehmens als High eingestuft.
Das ist eine höhere Risikoeinstufung, kein Benchmark-Ergebnis und keine unabhängige Zertifizierung der Fähigkeiten des Modells. Sie ist außerdem von der Schwere einzelner Schwachstellen zu unterscheiden, einschließlich der 304 kritischen Probleme, die Entwicklern gemeldet wurden.
Diese Unterscheidung ist wichtig, weil das Finden einer Schwachstelle und die Erstellung eines funktionsfähigen Exploits unterschiedliche Ergebnisse sind. Die von OpenAI gemeldeten Ergebnisse umfassen sowohl die Entdeckung von Schwachstellen als auch die Entwicklung von Exploits. Das erklärt mit, warum das Modell zum Start nicht allgemein verfügbar ist, sondern nur eingeschränkt bereitgestellt wird.
Der autorisierte Rahmen ist die erklärte Grenze
OpenAI beschreibt GPT-6 Cyber als darauf trainiert, innerhalb des autorisierten Rahmens zu bleiben. Der vorgesehene Zweck ist, Sicherheitsspezialisten dabei zu helfen, Schwachstellen zu finden und zu beheben, bevor Angreifer sie ausnutzen können.
Die vorgeschlagenen Korrekturen sind Teil dieses defensiven Zwecks. Die gemeldeten Arbeiten umfassen Informationen, mit denen Entwickler Probleme beheben können, sowie Nachweise dafür, dass sich die Schwachstellen ausnutzen lassen.
Ein Trainingsziel beschreibt allerdings das beabsichtigte Verhalten. Es sollte nicht als Garantie dafür missverstanden werden, dass jede denkbare Nutzung autorisiert bleibt. Die Zugangsbeschränkungen bilden eine separate Kontrolle darüber, wer das Modell überhaupt nutzen darf.
Der Zugang erfolgt über Daybreak Red
GPT-6 Cyber steht ausschließlich überprüften Teilnehmern von Daybreak Red zur Verfügung, die autorisierte Sicherheitstests durchführen. Dies ist keine Veröffentlichung für die breite Öffentlichkeit.
OpenAI plant, den Kreis der zugelassenen Spezialisten in den kommenden Wochen zu erweitern. Die Ankündigung enthält keine Details zum Überprüfungsverfahren und erklärt nicht, wie die Einhaltung des autorisierten Rahmens kontrolliert werden soll.
Vorerst bedeutet die Erweiterung eine längere Liste zugelassener Personen, keine offene Tür.