KI verspricht, uns die Mühe des Denkens zu ersparen. Das ist nützlich, genau bis zu dem Punkt, an dem Denken das ist, was wir lernen sollten.
Die Sorge ist nicht, dass jede Chatbot-Sitzung Schaden anrichtet. Sie ist, dass KI als routinemäßiger Ersatz für Anstrengung die Gewohnheiten und Institutionen schwächen könnte, durch die Menschen Wissen entwickeln. Um zu verstehen, warum, beginnen wir mit einem vertrauten, aber unvollständigen Bild des Geistes: das Gehirn als Computer.
Das Gehirn ist nicht nur eine Eingabe-Ausgabe-Maschine
Das Computermodell behandelt Denken als eine Abfolge. Wir nehmen Informationen auf, verarbeiten sie und handeln dann. Es hat Technologen geholfen, immer leistungsfähigere Maschinen zu bauen, von einfachen Taschenrechnern bis hin zu generativer KI. Als Modell menschlichen Denkens lässt es jedoch vieles aus.
Der Neurowissenschaftler Paul Cisek schlägt einen anderen Ausgangspunkt vor. Statt das Gehirn vor allem als Informationsverarbeiter zu sehen, versteht seine Darstellung es als Teil eines Rückkopplungssteuerungssystems. Wir wirken auf unsere Umgebung ein, diese Handlungen verändern, was wir wahrnehmen, und unsere nächsten Handlungen hängen von dieser veränderten Lage ab. Wahrnehmung und Bewegung sind keine getrennten Stationen an einem Fließband.
Nehmen wir einen Außenfeldspieler, der einen Flugball fängt. Eine strenge Darstellung im Sinne des Computermodells legt nahe, dass der Spieler die Geschwindigkeit des Balls schätzen, die Wirkung der Schwerkraft berechnen und herausfinden muss, wo er landen wird. Die Rückkopplungsdarstellung bietet eine einfachere Beschreibung: Halte den Ball ungefähr an derselben Stelle im Blickfeld und bewege dich so, dass du unter ihm bleibst.
Die zweite Erklärung passt besser zur Erfahrung, sich Bälle zuzuwerfen, und sie verlangt nicht, dass das Gehirn bewusst oder unbewusst ein Physikproblem löst, bevor der Körper sich bewegen kann. Der Körper ist Teil des Denkprozesses, nicht bloß das Fahrzeug, das dessen Ergebnis ausführt.
Warum das wichtig ist: Wenn man den Geist nur als Maschine versteht, die Informationen aufnimmt und Antworten erzeugt, dann wirkt KI wie eine natürliche Lernhilfe. Wenn der Geist auch ein System ist, das sich durch Handeln, Anpassung und Erfahrung entwickelt, kann das Ersetzen dieser Tätigkeiten einen Preis haben.
Ciseks Darstellung verbindet diese Idee der Rückkopplung mit der Geschichte der Nervensysteme. Als Tiere neue Wege fanden, sich durch ihre Umgebungen zu bewegen und mit ihnen zu interagieren, entstanden neue Verhaltensweisen und Fähigkeiten. Das Gehirn entwickelte sich aus dieser Sicht zusammen mit dem wachsenden Spektrum dessen, was ein Organismus tun konnte.
Diese Geschichte passt nicht sauber in ein einfaches Schema aus Eingabe, Berechnung und Ausgabe. Sie legt nahe, dass menschliche Kognition damit verbunden ist, unsere Interaktionen mit der Welt zu steuern, und nicht nur Beschreibungen davon zu verarbeiten.
Lernen ist eine soziale Rückkopplungsschleife
Die Umgebung, die menschliche Kognition prägt, ist nicht nur physisch. Sie ist auch sozial.
Menschen lernten, indem sie einander beobachteten und nachahmten. Gemeinsame Gesten und Praktiken machten es möglich, nützliche Fähigkeiten weiterzugeben, Tätigkeiten abzustimmen und Kultur aufzubauen. Das Nachahmen von Lauten half, die gesprochene Sprache hervorzubringen, während die Schrift Ideen über die Anwesenheit einer sprechenden Person hinaus und über Generationen hinweg reisen ließ. Gemeinschaften entwickelten Bildung und Institutionen, um Wissen zu teilen und gemeinsame Entscheidungen zu treffen.
Diese Praktiken sind kein dekorativer Zusatz zu einem ansonsten einsamen Geist. Sie gehören dazu, wie Menschen lernen. Eine Stunde, ein Gespräch oder ein Streit gibt jemandem die Chance, eine Idee zu prüfen, zu bemerken, was gefehlt hat, und das eigene Verständnis zu überarbeiten. Der Prozess kann langsam sein. Das ist zum Teil der Sinn.
Generative KI verändert die Bedingungen dieses Austauschs. Große Sprachmodelle stützen sich auf Informationen, die Menschen hervorgebracht haben, und können eine plausible Antwort liefern, ohne dass die nutzende Person die Begründung dahinter selbst rekonstruieren muss. Die Technologie kann angesammeltes menschliches Wissen also leichter zugänglich machen und zugleich erleichtern, sich die Arbeit zu sparen, Wissen selbst zu erwerben.
Den Unterschied verliert man leicht aus den Augen, weil die Ausgabe wie Lernen aussehen kann. Jemand stellt eine Frage, erhält eine klare Erklärung und macht weiter. Eine Antwort zu erhalten ist aber nicht dasselbe, wie sie behalten, beurteilen oder ohne Hilfe anwenden zu können.
Der kognitive Hotdog
Die Kritik vergleicht die routinemäßige Nutzung von KI mit einem Hotdog. Die Analogie besagt nicht, dass ein einzelner Hotdog oder ein einzelner KI-Prompt irgendjemandes Gesundheit ruinieren wird. Die Warnung gilt dem, was geschieht, wenn etwas Bequemes zum regelmäßigen Ersatz für das wird, was ein Mensch entwickeln oder erhalten muss.
Menschliche Körper haben sich unter Bedingungen entwickelt, in denen kalorienreiche Nahrung knapp war. Moderne Ernährungssysteme haben sie im Überfluss verfügbar gemacht und damit die Folgen verändert, sie zu suchen. Ähnlich kann KI schnelle kognitive Entlastung bieten, wo anstrengendes Denken unangenehm ist. Die Gewohnheit, die leichte Antwort zu wählen, kann aber dem Aufbau der Fähigkeiten im Wege stehen, die ein unabhängiges Urteil möglich machen.
François Chollet, früher Softwareingenieur bei Google, hat KI als kognitive Automatisierung beschrieben: Software, die menschliche Abstraktionen darstellt und Aufgaben ausführt, die Menschen sonst selbst erledigen würden. Der Begriff trifft den Reiz und das Risiko zugleich. Automatisierung kann Mühe sparen, doch manche Formen von Mühe sind auch der Weg, auf dem Menschen lernen.
Das macht den Vergleich mit früheren Technologien unvollkommen. Taschenrechner können das Rechnen übernehmen, und die Schrift kann Informationen außerhalb des Gedächtnisses einer Person speichern. Generative KI wird außerdem für Aufgaben beworben, bei denen Erklärungen, Ideen und Urteile entstehen. Ihre Nutzung kann daher nicht nur beeinflussen, wie Menschen Fakten abrufen, sondern auch, wie oft sie das Denken üben, das diese Aufgaben verlangen.
Schulen sind der klarste Test
Bildung rückt den Zielkonflikt in den Blick. Schülerinnen und Schüler brauchen Informationen, aber auch Übung darin, Probleme durchzuarbeiten, Behauptungen zu prüfen und eigene Erklärungen zu bilden. Ein Werkzeug, das Aufgaben leichter fertig werden lässt, kann es schwerer machen zu erkennen, ob überhaupt gelernt wurde.
Die Warnung ist nicht bloß theoretisch. Eine im Bericht beschriebene Studie aus China stellte fest, dass Tausende Schülerinnen und Schüler weitgehend aufhörten, Hausaufgaben zu machen, nachdem sie begonnen hatten, KI zu nutzen, mit erheblichen Einbußen für ihr Lernen. Weitere dort angeführte Forschung legt nahe, dass Lernende, die große Sprachmodelle zum Lernen nutzen, sich eher daran gewöhnen, ihr Urteilsvermögen und ihr kritisches Denken auch in anderen Situationen lockerer zu handhaben.
Diese Befunde belegen nicht, dass jede Nutzung von KI jedem Lernenden schadet. Sie stellen aber die beruhigende Idee infrage, ein Chatbot werde schon dadurch zum Tutor, dass er etwas erklären kann. Ein Tutor kann jemanden bitten, es selbst zu versuchen, ein Missverständnis erkennen und einen weiteren Versuch verlangen. Ein System, das fertige Arbeit liefert, kann das Gegenteil tun, es sei denn, sein Einsatz ist an der Anstrengung der Lernenden ausgerichtet und nicht an der sprachlichen Gewandtheit der Maschine.
Die kommerzielle Begeisterung ist nicht subtil. In einem Podcast vom Juli 2025 über KI in der Bildung sagte Leah Belsky, Vizepräsidentin für Bildung bei OpenAI, Lernende machten mehr als die Hälfte der durchschnittlich 900 Millionen monatlichen Nutzer von ChatGPT aus, und sie beschrieb den Dienst als die größte Lernplattform der Welt. Anthropic hat zudem Claude for Teachers eingeführt und bietet unterrichtenden Lehrkräften kostenlosen Zugang zu Premium-Modellen.
Diese Angebote können legitime Zwecke haben. Nutzer zu zählen zeigt aber nicht, dass Schülerinnen und Schüler lernen, ebenso wenig wie das Zählen von Bibliotheksbesuchen beweist, dass jemand die Bücher gelesen hat. Die schwierigere Frage ist, ob die Werkzeuge die Arbeit des Lernens stützen oder sie still ersetzen.
Bewahren Sie einen Teil des Denkens bewusst ohne Hilfe
Eine vorgeschlagene Antwort lautet kognitive Immunisierung: die Praktiken schützen, die Menschen beim eigenen Denken halten. Die Empfehlung ist praktisch, nicht mystisch. Lassen Sie Raum, manche Probleme ohne KI zu lösen, Antworten mit anderen Belegen abzugleichen, Meinungsverschiedenheiten zu besprechen und Zeit abseits der Werkzeuge zu verbringen.
Für Schulen heißt das, zu entscheiden, welche Aufgaben von KI profitieren und welche die eigene Arbeit der Lernenden bleiben sollen. Es heißt auch, Zugang und Bequemlichkeit von der Frage nach dem Bildungswert zu trennen. Ein Chatbot kann überall verfügbar sein und trotzdem die falsche Antwort auf ein bestimmtes didaktisches Problem sein.
Einige Behörden und Schulträger ziehen bereits Grenzen. Norwegen hat im Wesentlichen jede Nutzung von KI in der Schule für Schülerinnen und Schüler unter 13 verboten. In den Vereinigten Staaten hat eine große Lehrergewerkschaft gefordert, Chatbots an Grundschulen zu verbieten, während Schulbezirke in Los Angeles und New York City Verbote umgesetzt haben.
Beschränkungen haben ihren Preis. Eine pauschale Regel kann hilfreiche Nutzungen zusammen mit schädlichen unterbinden, und ein Verbot allein bringt niemandem bei, KI-generierte Behauptungen zu prüfen. Uneingeschränkte Nutzung zuzulassen ist aber ebenfalls eine Entscheidung. Sie räumt Produkten eine starke Rolle im Lernen ein, deren Bequemlichkeit leicht zu messen ist und deren Wirkung auf dauerhaftes Wissen sich schwerer erkennen lässt.
Ein vorsichtigerer Weg würde Lernenden Raum lassen, zu denken, Fehler zu machen und ihre Arbeit zu erklären, und KI dort einsetzen, wo sie diese Tätigkeiten stützt, statt sie zu verdrängen. Das ist weniger aufgeräumt, als zu verkünden, jedes Klassenzimmer brauche einen Chatbot. Es liegt auch näher an der eigentlichen Aufgabe von Bildung.
Das Argument reicht über die Schule hinaus. Wenn Menschen routinemäßig ihr Urteil abgeben, können die sozialen Bedingungen schwächer werden, die eigenständiges Denken tragen, und das Abgeben wird noch verlockender. Der Kreislauf ist vertraut: ein Werkzeug nutzen, weil es leichtfällt, die eigene Übung an der Aufgabe verlieren und das Werkzeug dann noch schwerer beiseitelegen können.
Menschliche Kognition ist durch Millionen Jahre biologischer Entwicklung und durch Generationen gemeinsamen Lernens geformt worden. KI kann in dieser Geschichte nützlich sein, aber nützlich ist nicht dasselbe wie harmlos. Die Frage ist nicht, ob wir Maschinen dazu bringen können, für uns zu denken. Sie lautet, wie viel Denken wir bereit sind, selbst aufzugeben.
Quellen
- Our minds aren’t equipped to handle AI — The Verge