Ein KI-Modell arbeitet, doch kann jemand es auch stoppen? Microsoft-CEO Satya Nadella fordert für die KI-Sicherheit eine Kontrolle, die selbstverständlich klingt: Eine befugte Person muss ein laufendes Modell pausieren oder abschalten können. Seine „Notbremse“ beruht auf einer weniger beruhigenden Annahme: Systeme sollten von Anfang an als kompromittiert gelten.
Modell und Steuerung trennen
In einem Beitrag auf X argumentierte Nadella, Menschen sollten Empfehlungen von KI-Systemen nicht einfach annehmen oder ablehnen müssen, während deren Funktionsweise hinter mehreren Softwareschichten verborgen bleibt. Er fordert, das Modell vom sogenannten „Harness“ zu trennen, der seine Arbeit steuert. Kontrollen und Schutzmechanismen sollen außerhalb des Modells liegen.
Wer Modell und Steuerung als eine einzige undurchsichtige Einheit behandelt, kann schwerer erkennen, welcher Teil was tut, und bei Problemen eingreifen. Ein Stoppknopf hilft nur, wenn er das System erreicht, das die Aufgabe tatsächlich ausführt.
Aktionen sichtbar machen
Wesentliche Aktionen eines Modells sollen laut Nadella Spuren hinterlassen, die für Menschen lesbar und gegen Manipulation geschützt sind. Die Aktivitäten müssen sich überprüfen lassen. Nutzer sollten weder einer Blackbox noch deren eigener Darstellung des Geschehens blind vertrauen müssen.
Eine befugte Person soll ein Modell jederzeit mitten in einer Aufgabe unterbrechen können. Mit leistungsfähigeren Modellen müssten auch die Werkzeuge zu ihrer Eingrenzung weiterentwickelt werden. Nadella fordert dafür branchenweite Standards.
Die Metapher der Notbremse ist einfach. Schwieriger ist es, die Bremse mit dem laufenden System zu verbinden, statt sie nur im Schaubild vorzusehen.
Eine breitere Sicherheitsdebatte
Nadellas Beitrag erscheint, während führende KI-Unternehmen Vorfälle einräumen, bei denen sie offenbar die Kontrolle über ihre Modelle verloren haben. Zuvor hatte Anthropic-CEO Dario Amodei einen Plan für eine vorsichtigere KI-Entwicklung veröffentlicht. Nadellas Fokus auf Eingrenzung ergänzt die Branchendebatte über die Offenlegung von Vorfällen, unabhängige Prüfungen und überprüfbare Daten.
Sein Ansatz setzt weniger darauf, dass ein Modell sich korrekt verhält. Er verlangt Systeme, die auch darauf vorbereitet sind, dass es das nicht tut. Sicherheit hängt nicht nur davon ab, was ein Modell sagt, sondern davon, ob Menschen sein Handeln beobachten und stoppen können. Eine eingezeichnete Bremse hält schließlich nichts an.