Anthropic hat potenziellen Aktionären in den Unterlagen für seinen Börsengang mitgeteilt, dass die Technologie, die es verkauft, katastrophale oder existenzielle Risiken für die Gesellschaft bergen könnte und dass es nicht versprechen kann, dass seine eigenen Schutzmaßnahmen dies verhindern werden. Das ist ein ungewöhnlicher Satz im Umfeld einer Unternehmensbewertung.
Was in den Unterlagen steht
Die Warnung ist an eine Bedingung geknüpft. Dem Prospekt zufolge können hinreichend leistungsfähige KI-Systeme katastrophale oder existenzielle Risiken für die Gesellschaft bergen, wenn ihre Entwicklung und ihr Einsatz nicht verantwortungsvoll gehandhabt werden.
Das Dokument verknüpft die Gefahr mit der Leistungsfähigkeit. Je leistungsfähiger die Modelle werden, desto schwerwiegender wird der mögliche Schaden durch schlecht konfigurierte oder missbräuchlich eingesetzte Modelle. Anthropic erklärt, es müsse Entscheidungen über die Sicherheit seiner Systeme treffen, und räumt dann ein, dass es keine Garantie dafür gibt, dass diese Entscheidungen ihren Zweck erfüllen werden.
Hinzu kommt ein zweites Eingeständnis. Das Unternehmen ist sich nicht sicher, ob andere Akteure der Branche vergleichbare Schutzmaßnahmen ergreifen werden. Die eigene Sorgfalt ist also nur ein Teil des Gesamtbilds, und das hält das Unternehmen schriftlich fest.
Der finanzielle Kontext der Warnung
Die Warnung kommt zu einem Zeitpunkt, an dem Anthropic seinen Börsengang vorbereitet. Die Autoren des ursprünglichen Berichts schätzen, dass das Unternehmen eine Bewertung von bis zu 2 Billionen US-Dollar anstreben könnte. Sie nennen außerdem Zahlen, die für das erste Halbjahr 2026 einen Verlust von 80 Milliarden US-Dollar ausweisen. Der Bericht erklärt nicht, wie dieser Verlust berechnet wurde, und sagt nicht, ob die Bewertungsschätzung vom Unternehmen oder aus einer externen Analyse stammt. Daher sollten beide Zahlen als Angaben des Berichts verstanden werden.
Der Prospekt nennt auch weitere Geschäftsrisiken, die neben den existenziellen fast schon alltäglich wirken:
- Strom und Infrastruktur. Ein Mangel an Strom und an der Infrastruktur, die Rechenzentren benötigen.
- Widerstand vor Ort. Widerstand gegen den Bau dieser Rechenzentren.
- Rechtliche Risiken. Mögliche rechtliche Ansprüche, die sich aus der Nutzung der Produkte des Unternehmens ergeben.
Das Tempo drosseln, aber nicht zu sehr
Anthropic hat bereits zuvor gefordert, die Entwicklung der leistungsfähigsten KI-Modelle branchenweit zu verlangsamen. Das Unternehmen stellt dies als Möglichkeit dar, die Risiken der Technologie zu verringern.
Der Prospekt erklärt Anlegern unterdessen, dass eine langsamere Entwicklung des Marktes für die Modelle, die Plattform und die Anwendungen des Unternehmens oder ein Nachfragerückgang das Unternehmenswachstum bremsen und die finanziellen Ergebnisse verschlechtern könnten. Beide Aussagen können zugleich zutreffen. Sie richten sich allerdings auch an unterschiedliche Zielgruppen, und eine dieser Zielgruppen wird nun zum Kauf von Aktien aufgefordert.
Zwei Geschichten für ein Publikum
Der Bericht beschreibt die Aufgabe klar. Anthropic muss Anlegern nun erklären, warum seine Modelle kommerziell gefragt sind und wie es Risiken kontrollieren will, die es selbst als potenziell katastrophal einstuft. In den Unterlagen räumt das Unternehmen ein, dass seine derzeitigen Sicherheitsmaßnahmen keine vollständige Garantie bieten.
Der Bericht lässt die praktischen Einzelheiten des Börsengangs aus. Er nennt weder ein Einreichungsdatum noch einen Börsenplatz und sagt auch nicht, wie viele Aktien verkauft werden könnten. Was er hingegen enthält, ist die eigene Beschreibung der möglichen negativen Folgen durch das Unternehmen. Diese fällt deutlich konkreter aus als das übliche Versprechen, „verantwortungsvoll mit Risiken umzugehen“.
Wer einsteigt, wird zumindest nicht behaupten können, nicht gewarnt worden zu sein.