Anthropic, ein Unternehmen, das Frontier-KI-Modelle entwickelt, hat einen Gesetzentwurf verfasst, der es der Regierung erschweren würde, solche Modelle abzuschalten. Zugleich fordert das Unternehmen den Kongress auf, Unternehmen wie Anthropic Sicherheitsvorgaben aufzuerlegen. Der Vorschlag ist ein vertraulicher Entwurf, den Anthropic US-Gesetzgebern gezeigt hat. Inzwischen hat ein Nachrichtenmedium eine Kopie erhalten. Es handelt sich um einen Unternehmensvorschlag, nicht um eine förmliche Gesetzesvorlage, und im Kongress gibt es dazu bislang keinerlei Einigung.
Das ist ein ungewöhnlicher Vorstoß. Regulierte Branchen fordern normalerweise weniger Vorschriften. Hier verlangt ein Unternehmen ein umfassendes Regelwerk, mit einer sehr hohen Hürde für jene Befugnis, die für sein Geschäft am wichtigsten ist: die Befugnis, den Stecker zu ziehen.
Die Eingriffsschwelle: sehr hoch
Nach dem Entwurf könnte die Regierung nur dann versuchen, die Veröffentlichung oder Nutzung eines Modells zu blockieren, wenn es eine vorhersehbare und unmittelbar bevorstehende Bedrohung durch eine von zwei Arten von Schäden darstellt:
- Finanzielle Schäden: mehr als 1 Milliarde US-Dollar.
- Personenschäden: der Tod oder die schwere Verletzung von mehr als 50 Menschen.
Die Bedrohung müsste außerdem in eine von drei Kategorien fallen: die Herstellung oder Verbreitung biologischer Waffen, ein Modell, das der Kontrolle seines Entwicklers entgleitet, oder ein Cyberangriff.
Das ist eine kurze Liste. Ein Modell, das sich lediglich problematisch verhält, Falschinformationen verbreitet oder bei gewöhnlichem Betrug hilft, würde nach diesem Wortlaut nicht darunterfallen. Der Entwurf behält die Befugnis zur Abschaltung jenen Szenarien vor, die die Debatten über KI-Sicherheit dominieren.
Wer den Stecker ziehen darf
Die zweite Hälfte des Mechanismus betrifft die Frage, wer den Schalter in der Hand hält. Das US-Handelsministerium könnte ein Modell nicht eigenmächtig stoppen. Es bräuchte dafür eine Entscheidung eines Bundesgerichts im District of Columbia.
Der Entwurf untersagt außerdem anderen Bundesbehörden und Amtsträgern, die Entwicklung, den Einsatz oder die interne Nutzung solcher Modelle auszusetzen. Der Weg zu einer Abschaltung würde damit ausschließlich über ein Ministerium und ein Gericht führen.
Dieser Teil dürfte die meisten Debatten auslösen. Befürworter können darin ein rechtsstaatliches Verfahren sehen. Skeptiker können darauf hinweisen, dass ein Unternehmen Regeln entworfen hat, die begrenzen, wie stark die Regierung in seine Tätigkeit eingreifen darf. Beide Lesarten sind möglich, und der Entwurf klärt nicht, welche davon zutrifft.
Unabhängige Prüfer, bezahlt von denen, die sie überprüfen
Der Entwurf sieht eine Rolle für unabhängige Prüfer vor. Der beschriebene Ablauf:
- Registrierung: Die Bewertung eines Prüfers muss beim US-Handelsministerium registriert werden.
- Regelmäßige Kontrollen: Die zuständigen Prüfer würden Entwickler und ihre Modelle von Zeit zu Zeit überprüfen.
- Bezahlung: Prüfer dürfen von den Unternehmen bezahlt werden, die sie untersuchen, solange das Honorar nicht vom Ergebnis der Prüfung abhängt.
- 72-Stunden-Frist: Stellt eine Bewertung eine unmittelbar bevorstehende Bedrohung der im Gesetzentwurf erfassten Art fest, muss der Prüfer die Behörde innerhalb von 72 Stunden nach Abschluss der Prüfung benachrichtigen.
Die Honorarregelung ist ein pragmatischer Kompromiss. Jemand muss diese Prüfungen bezahlen, und das überprüfte Unternehmen ist der naheliegende Kandidat. Die Absicherung besteht darin, dass die Bezahlung nicht an das Prüfergebnis gekoppelt sein darf. Ob das ausreicht, um die Unabhängigkeit der Prüfer in der Praxis zu gewährleisten, ist eine berechtigte Frage. Der Entwurf beantwortet sie in der berichteten Fassung nicht.
Die Sicherheitsseite der Vereinbarung
Der Gesetzentwurf ist nicht nur ein Schutzschild. Er enthält auch Pflichten für Entwickler von Frontier-Modellen:
- verbindliche Sicherheitsvorgaben
- Veröffentlichung von Transparenzberichten
- Schutz für Whistleblower
- Meldung kritischer Vorfälle an das US-Handelsministerium
Ein Sprecher von Anthropic sagte, das Dokument spiegele das Advanced AI Framework des Unternehmens wider. Dabei handelt es sich um eine Reihe von Sicherheitsanforderungen für leistungsfähige KI-Modelle, für die das Unternehmen seit Juni bei Behörden des Bundes und der Bundesstaaten wirbt. Dem Sprecher zufolge hält Anthropic die Maßnahmen für angemessen und fordert den Kongress auf, sie zu verabschieden.
Der Teil, der die Bundesstaaten betrifft
Der Entwurf würde auch einige Anforderungen der Bundesstaaten begrenzen. Konkret würde er bundesstaatliche Vorschriften zur öffentlichen Offenlegung von Risiken, zu unabhängigen Bewertungen und zur Meldung kritischer Vorfälle einschränken.
Das Angebot lautet also: ein einheitlicher bundesweiter Standard im Austausch gegen enger gefasste Vorschriften der Bundesstaaten. Unternehmen bevorzugen dieses Modell seit Langem, weil es günstiger ist, ein Regelwerk einzuhalten als fünfzig. Ob die Bundesstaaten ihre eigenen Anforderungen bereitwillig aufgeben werden, ist eine andere Frage. Der Bericht sagt nicht, wie sie reagieren könnten.
Die Einordnung in die breitere Debatte
Der Entwurf kommt zu einem Zeitpunkt, an dem auf Bundesebene weitere Ansätze zur KI-Regulierung diskutiert werden. Einige Senatoren arbeiten an Maßnahmen gegen katastrophale KI-Risiken. Zugleich fordern manche Politiker und Verfechter von KI-Sicherheit eine strengere Aufsicht oder sogar eine Pause bei der Entwicklung von Frontier-Systemen.
Vor diesem Hintergrund legt Anthropics Text engere Voraussetzungen für staatliche Eingriffe fest als Ansätze, die eine umfassende Prüfung von Modellen vor ihrer Veröffentlichung verlangen. Das ist die deutlichste Trennlinie in dieser Geschichte. Das eine Lager will, dass Regulierungsbehörden zuerst prüfen und erst dann genehmigen. Dieser Entwurf lässt Unternehmen ihre Modelle veröffentlichen, legt ihnen Berichts- und Prüfungspflichten auf und behält Eingriffe einer kurzen Liste schwerwiegender, unmittelbar bevorstehender Gefahren vor.
Was noch unklar ist
Der vorliegende Bericht lässt mehrere Fragen offen:
- Gesetzgebungsverfahren: Es ist nicht bekannt, wer die Vorlage im Kongress einbringen könnte oder wann dies geschehen könnte.
- Definitionen: Wie eine „unmittelbar bevorstehende“ Bedrohung beurteilt würde, wird nicht näher erläutert.
- Reaktion der Bundesstaaten: Der Bericht geht nicht darauf ein, wie Amtsträger der Bundesstaaten die vorgeschlagenen Einschränkungen sehen.
- Gerichtliches Verfahren: Das Verfahren zur Erlangung eines Gerichtsbeschlusses im District of Columbia wird nicht beschrieben.
Gesichert sagen lässt sich nur wenig. Ein Unternehmen, das leistungsfähige KI entwickelt, hat schriftlich festgehalten, wie die Regeln seiner Ansicht nach aussehen sollten – einschließlich der Bedingungen, unter denen es gestoppt werden könnte. Der Kongress muss nun entscheiden, ob er diese Bedingungen als Ausgangspunkt nimmt und wie sich ein einheitlicher nationaler Standard mit den bereits bestehenden Anforderungen einzelner Bundesstaaten verbinden lässt.
Es ist zumindest ein seltener Fall, in dem ein Unternehmen freiwillig definiert, was es unter dem schlimmsten Fall versteht. Die Bedingungen für das eigene Aus selbst zu entwerfen, ist ein gewagter Auftakt zu Verhandlungen. Und den Gesetzgebern wird zweifellos auffallen, wer dabei den Stift geführt hat.