Ein KI-Unternehmen fordert den Kongress auf, die rechtliche Grundlage dafür zu schaffen, KI-Systeme abschalten zu lassen. Anthropic, der Entwickler der Claude-Modelle, wirbt für einen Gesetzentwurf, der es US-Behörden erlauben würde, die Veröffentlichung und Nutzung von KI-Systemen auszusetzen, die als ernsthafte Bedrohung eingestuft werden. Unternehmen fordern normalerweise weniger strenge Regulierung. Insofern ist dies ein etwas ungewöhnliches Anliegen, auch wenn ein Unternehmen, das eine der leistungsfähigsten Modellfamilien entwickelt, zugleich gut beurteilen kann, was es reguliert sehen möchte.
Zwischenüberschrift: Eine Schadensschwelle von 1 Milliarde US-Dollar, ein Register externer Fachleute und eine gerichtliche Anordnung als Ausschalter.
Was der Gesetzentwurf der Regierung erlauben würde
Der zentrale Mechanismus ist das Eingreifen. Wenn von einem KI-System eine hinreichend ernste Gefahr ausgeht, könnte die Regierung Schritte unternehmen, um seine Veröffentlichung oder weitere Nutzung vorübergehend zu stoppen. Die Berichte über den Gesetzentwurf beschreiben kein allgemeines Zulassungssystem. Sie beschreiben einen Auslöser, ein Prüfverfahren und ein Gericht.
Der Auslöser hat zwei Komponenten: das Schadensausmaß und die Art der Bedrohung.
- Schadensausmaß. Potenzielle Schäden von mindestens 1 Milliarde US-Dollar oder der Tod beziehungsweise schwere Verletzungen von mehr als 50 Menschen.
- Art der Bedrohung. Das Risiko muss mit der Entwicklung biologischer Waffen, einem Modell, das der Kontrolle seines Entwicklers entgleitet, oder einem Cyberangriff zusammenhängen.
Die Liste ist eng gefasst. Ein Chatbot, der schlechte Rechtsberatung liefert oder ein mittelmäßiges Sonett schreibt, fällt nicht darunter. Der Gesetzentwurf zielt der Beschreibung nach auf jene Szenarien ab, die in Studien zur KI-Sicherheit und bei Anhörungen im Kongress auftauchen.
Wer entscheidet – und wie
Die Beurteilung würde nicht den Entwicklern überlassen. Der Gesetzentwurf sieht vor, dass unabhängige Fachleute, die beim US-Handelsministerium registriert sind, die potenzielle Gefahr eines bestimmten Systems bewerten. Auf Grundlage ihrer Erkenntnisse könnte das Ministerium vor Gericht ziehen und die Aussetzung eines bestimmten Projekts beantragen.
Das ergibt eine dreistufige Kette: externe Gutachter, eine Behörde und schließlich ein Richter. Das ist langsamer, als wenn eine Aufsichtsbehörde einfach den Stecker zieht, und genau darum dürfte es gehen. Eine gerichtliche Anordnung zur Aussetzung eines KI-Projekts an der technologischen Spitze wäre kostspielig und umstritten. Vor Gericht würde dann über die Beweislage gestritten.
Aus den Berichten geht nicht hervor, wie Fachleute für das Register ausgewählt würden, wie sie bezahlt würden oder welchen Beweismaßstab ein Gericht anlegen würde. Diese Details sind von großer Bedeutung, fehlen aber in den bislang veröffentlichten Informationen.
Welche Pflichten Entwickler hätten
Der Gesetzentwurf erlegt auch den Unternehmen selbst Pflichten auf. Entwickler müssten:
- Interne Sicherheitseinheiten einrichten.
- Berichte darüber veröffentlichen, wie ihre KI-Modelle funktionieren.
- Die Aufsichtsbehörde unverzüglich über schwerwiegende Fehlfunktionen informieren.
Darüber hinaus würde der Gesetzentwurf Beschäftigte, die Verstöße offenlegen, vor Vergeltungsmaßnahmen schützen. Der Schutz von Hinweisgebern ist in regulierten Branchen ein alter Gedanke und findet sich aus einem praktischen Grund häufig in Gesetzentwürfen wie diesem. Diejenigen, die zuerst bemerken, dass sich ein Modell gefährlich verhält, sind meist diejenigen, die dafür angestellt sind, es zu entwickeln.
Nicht bei null begonnen
Der Berichterstattung zufolge greifen mehrere Bestimmungen kalifornische KI-Gesetze auf, die 2025 in Kraft getreten sind. Das deutet auf ein vertrautes Muster hin. Ein Bundesstaat erprobt einen Regelungsrahmen, ein Branchenakteur hält diesen Rahmen für akzeptabel und setzt sich anschließend für eine bundesweite Fassung ein, die zumindest berechenbar ist. Ob Anthropic das so sieht, wird nicht gesagt. Das Unternehmen erklärt lediglich, dass die vorgeschlagenen Maßnahmen ein vernünftiger Weg seien, die leistungsfähigsten KI-Systeme unter Kontrolle zu halten.
Was wir nicht wissen
Die Quellenlage ist hier dünn, und die Lücken sollten klar benannt werden.
- Keine Angaben zu Initiatoren oder zur Nummer des Gesetzentwurfs. Die Berichte beschreiben, wie Anthropic für den Gesetzentwurf wirbt, nennen aber keine Kongressmitglieder, die ihn eingebracht haben – und lassen offen, ob ihn überhaupt schon jemand eingebracht hat.
- Kein Zeitplan. Es gibt keine Angaben zu Anhörungen, Beratungen über Änderungen im Ausschuss oder Abstimmungen.
- Keine Reaktionen anderer KI-Labore. Wir wissen nicht, was Wettbewerber oder das Handelsministerium selbst von dem Vorschlag halten.
- Unklare Definitionen. An Begriffen wie dem Entgleiten eines Modells aus der Kontrolle seines Entwicklers hängt viel, doch aus der Zusammenfassung geht nicht hervor, wie sie gesetzlich definiert würden.
Die Ironie dabei
Es ist eine alte Beobachtung, dass etablierte Unternehmen Regulierung mitunter begrüßen, weil Compliance-Abteilungen für große Unternehmen günstiger sind als für kleine. In den Berichten deutet nichts darauf hin, dass dies hier der Fall ist, und die Schwellenwerte des Gesetzentwurfs (eine Milliarde Dollar Schaden, mehr als 50 Tote oder Schwerverletzte) zielen auf katastrophale Risiken ab, nicht auf kleinere Entwickler als solche. Dennoch lässt sich eine Vorschrift, die interne Sicherheitsteams und veröffentlichte Berichte verlangt, leichter erfüllen, wenn man beides bereits hat.
Die interessantere Lesart ist die naheliegende. Ein Unternehmen, das leistungsfähige Modelle verkauft, erklärt öffentlich, dass es einen rechtlichen Weg geben sollte, leistungsfähige Modelle zu stoppen. Ob der Kongress dieses Angebot aufgreift und ob der Rest der Branche zustimmt, wird darüber entscheiden, ob dies ein politischer Vorschlag ist oder eine Pressemitteilung mit angehängter Gesetzentwurfsnummer.