David Robinson sagt, KI-Entwickler setzten weiter auf Versuch und Irrtum, während ihre Systeme leistungsfähiger werden, obwohl die Folgen von Fehlern wachsen. Der frühere Sicherheitsspezialist von OpenAI ist nach dreieinhalb Jahren im Unternehmen zurückgetreten. Er bezeichnet die Kultur als kaputt und fordert mehr Sicherheitsforschung, bevor die Fähigkeiten weiter ausgebaut werden.
Ein Abschied aus der Sicherheitsarbeit
Robinson hat OpenAIs Preparedness-System mitentwickelt und die Sicherheitsberichte für 12 Veröffentlichungen fortschrittlicher Modelle verantwortet. Seine Entscheidung zu gehen, sagt er, spiegelt eine breitere Sorge darüber, wie KI-Unternehmen einschließlich OpenAI Sicherheit gegen den Druck abwägen, leistungsfähigere Systeme zu bauen.
Seine Kritik ist deutlich: Die Unternehmen seien nicht vorsichtig genug und sollten Sicherheitsexpertise und Forschung stärker gewichten, bevor sie leistungsstärkere KI entwickeln. Versuch und Irrtum sei kein hinnehmbarer Standard mehr, sobald die Risiken steigen.
Das ist ebenso ein Argument über Prioritäten wie über den Prozess. Sicherheitsarbeit dürfe nicht bloß etwas sein, das man nachholt, wenn die Fähigkeiten schon vorangekommen sind, so Robinson. Es gehe darum, dass sie wirkt, bevor Systeme leistungsfähiger werden, statt erst aus späteren Fehlschlägen zu lernen.
Eine breitere Debatte in der Branche
Robinsons Rücktritt ist ein öffentliches Beispiel in einem wachsenden Streit: Können Unternehmen, die immer autonomere Systeme bauen, Sicherheitspraktiken dem technischen Fortschritt voraushalten?
Auch OpenAI und Anthropic gerieten nach jüngsten Vorfällen mit unberechenbarem KI-Verhalten oder Lücken in Schutzmaßnahmen in die Kritik. Die Darstellung nennt die Vorfälle nicht und erklärt nicht, wie sie mit dem jeweiligen Unternehmen zusammenhängen. Die allgemeine Sorge ist hier deshalb klarer als die Einzelheiten.
Robinsons Weggang entscheidet nicht, ob der Ansatz von OpenAI ausreicht. Er macht es aber schwerer, den Dissens als rein theoretische Debatte abzutun: Wer am Sicherheitsprozess des Unternehmens gearbeitet hat, sagt, die Kultur selbst sei Teil des Problems. Die Probe ist jetzt nicht, ob die Branche aus Fehlern lernen kann, sondern ob sie genug lernen kann, bevor der nächste kommt.