ИИ обещает избавить нас от необходимости думать. Это полезно ровно до того момента, когда думать как раз и есть то, чему мы должны были учиться.
Опасение не в том, что каждый сеанс с чат-ботом причиняет вред. Оно в том, что если сделать ИИ привычной заменой усилию, это может ослабить привычки и институты, через которые люди вырабатывают знание. Чтобы понять почему, начните с привычной, но неполной картины разума: мозг как компьютер.
Мозг — это не просто машина «вход-выход»
Вычислительная модель трактует мысль как последовательность. Мы принимаем информацию, обрабатываем ее, затем действуем. Она помогла технологам строить все более способные машины, от простых калькуляторов до генеративного ИИ. Но как модель человеческого мышления она многое упускает.
Нейробиолог Пол Сайсек предлагает другую отправную точку. Вместо того чтобы считать мозг прежде всего обработчиком информации, его подход видит мозг частью системы управления с обратной связью. Мы воздействуем на окружение, эти действия меняют то, что мы ощущаем, и следующие действия зависят от изменившейся ситуации. Восприятие и движение — не отдельные стадии конвейера.
Возьмем аутфилдера, ловящего мяч в высокой дуге. Строгая вычислительная версия предполагает, что игрок должен оценить скорость мяча, рассчитать влияние тяжести и определить, куда тот приземлится. Версия с обратной связью проще: удерживайте мяч примерно в одной и той же точке поля зрения и двигайтесь так, чтобы оставаться под ним.
Второе объяснение лучше совпадает с опытом ловли мяча и не требует, чтобы мозг сознательно или бессознательно решал физическую задачу до того, как тело сможет двигаться. Тело участвует в мышлении, а не только исполняет его результат.
Почему это важно: Если понимать разум лишь как машину, которая принимает информацию и выдает ответы, ИИ выглядит естественной помощью в учебе. Если разум — еще и система, которая развивается через действие, корректировку и опыт, замена этих занятий может дорого обойтись.
Концепция Сайсека связывает эту идею обратной связи с историей нервных систем. По мере того как животные осваивали новые способы двигаться и взаимодействовать со средой, появлялись новые формы поведения и новые способности. С этой точки зрения мозг развивался вместе с расширяющимся набором того, что организм способен делать.
Такая история плохо укладывается в простую схему «вход — вычисление — выход». Она говорит, что человеческое познание связано с управлением нашим взаимодействием с миром, а не только с обработкой его описаний.
Обучение — это социальная петля обратной связи
Среда, которая формирует человеческое познание, не только физическая. Она еще и социальная.
Люди учились, наблюдая друг за другом и повторяя друг друга. Общие жесты и практики позволяли передавать полезные навыки, согласовывать действия и строить культуру. Подражание звукам помогло появиться устной речи, а письменность позволила идеям выходить за пределы присутствия говорящего и переходить от поколения к поколению. Сообщества создали образование и институты для обмена знанием и принятия коллективных решений.
Эти практики — не украшение при иначе одиноком уме. Они часть того, как люди учатся. Урок, разговор или спор дают человеку шанс проверить идею, заметить упущенное и поправить свое понимание. Процесс бывает медленным. Отчасти в этом и суть.
Генеративный ИИ меняет условия этого обмена. Большие языковые модели опираются на информацию, созданную людьми, и могут вернуть правдоподобный ответ, не требуя от пользователя восстановить стоящее за ним рассуждение. Технология поэтому может сделать накопленное человеческое знание доступнее и одновременно облегчить отказ от труда приобретать знание самому.
Эту разницу легко потерять, потому что результат может выглядеть как учеба. Студент задает вопрос, получает ясное объяснение и идет дальше. Но получить ответ — не то же самое, что суметь его запомнить, оценить или применить без помощи.
Когнитивный хот-дог
Критика сравнивает привычное использование ИИ с хот-догом. Аналогия не в том, что один хот-дог или один запрос к ИИ испортит кому-либо здоровье. Предупреждение о том, что происходит, когда удобная вещь становится регулярной заменой тому, что человеку нужно развивать или поддерживать.
Человеческое тело сложилось в условиях, где калорийная пища была редкой. Современные продовольственные системы сделали ее обильной, и это изменило последствия погони за ней. Сходным образом ИИ может дать быстрое когнитивное облегчение там, где думать с усилием неприятно. Но привычка выбирать легкий ответ может мешать вырабатывать навыки, от которых зависит самостоятельное суждение.
Франсуа Шолле, ранее инженер-программист в Google, описал ИИ как когнитивную автоматизацию: программное обеспечение, которое представляет человеческие абстракции и выполняет задачи, которые люди иначе делали бы сами. Термин схватывает и притягательность, и риск. Автоматизация может экономить усилие, но некоторые виды усилия — это еще и то, как люди учатся.
Поэтому сравнение с более ранними технологиями неполно. Калькуляторы могут взять на себя арифметику, а письменность может хранить информацию вне памяти человека. Генеративный ИИ продвигают еще и для задач, которые включают формирование объяснений, идей и суждений. Его использование поэтому может влиять не только на то, как люди извлекают факты, но и на то, как часто они упражняют мышление, которого эти задачи требуют.
Школы — самая ясная проверка
Образование делает этот компромисс наглядным. Студентам нужна информация, но им нужна и практика: разбирать задачи, проверять утверждения и формулировать собственные объяснения. Инструмент, который облегчает выполнение заданий, может затруднить понимание того, состоялось ли обучение.
Предупреждение не только теоретическое. Исследование в Китае, описанное в докладе, показало, что тысячи студентов в основном перестали делать домашние задания после того, как начали пользоваться ИИ, и это ощутимо ударило по их учебе. Другие исследования, на которые там ссылаются, предполагают, что студенты, использующие большие языковые модели для обучения, могут привыкнуть ослаблять суждение и критическое мышление и в других ситуациях.
Эти результаты не доказывают, что любое использование ИИ вредит каждому студенту. Они, однако, ставят под сомнение успокоительную мысль, будто чат-бот становится наставником просто потому, что умеет объяснять. Наставник может попросить ученика попробовать, заметить непонимание и потребовать еще одну попытку. Система, которая выдает готовую работу, может делать противоположное, если ее использование не построено вокруг усилия студента, а не беглости машины.
Коммерческий энтузиазм нескрываем. В подкасте июля 2025 года об ИИ в образовании вице-президент OpenAI по образованию Леа Бельски сказала, что учащиеся составляют больше половины из 900 миллионов среднемесячных пользователей ChatGPT, и назвала сервис крупнейшей в мире обучающей платформой. Anthropic также представила Claude for Teachers, предлагая практикующим школьным педагогам бесплатный доступ к премиальным моделям.
У этих предложений могут быть оправданные применения. Но подсчет пользователей не показывает, что студенты учатся, как и подсчет посещений библиотеки не доказывает, что кто-то прочитал книги. Более трудный вопрос в том, поддерживают ли инструменты работу обучения или тихо ее подменяют.
Сознательно оставляйте часть мышления без помощи
Один из предложенных ответов — когнитивная иммунизация: защищать практики, которые удерживают людей в самостоятельном рассуждении. Предписание практическое, а не мистическое. Оставляйте место для решения части задач без ИИ, сверки ответов с другими свидетельствами, обсуждения разногласий и времени вдали от инструментов.
Для школ это значит решать, каким задачам ИИ полезен, а какие должны остаться собственной работой студента. Это также значит отделять доступ и удобство от образовательной ценности. Чат-бот может быть доступен повсюду и все равно оказаться неверным ответом на конкретную учебную задачу.
Некоторые власти и школьные объединения уже проводят границы. Норвегия запретила по существу любое использование ИИ в школе для учащихся младше 13 лет. В США крупный профсоюз учителей призвал запретить чат-боты в начальной школе, а школьные округа Лос-Анджелеса и Нью-Йорка ввели запреты.
У ограничений есть свои издержки. Правило без изъятий может отсечь полезные применения вместе с вредными, а один лишь запрет не научит студентов оценивать утверждения, порожденные ИИ. Но и разрешить неограниченное использование — тоже выбор. Он отдает влиятельную роль в процессе обучения продуктам, удобство которых легко измерить, а влияние на прочное знание увидеть труднее.
Более осторожный подход сохранил бы студентам пространство думать, ошибаться и объяснять свою работу, используя ИИ там, где он поддерживает эти занятия, а не вытесняет их. Это менее опрятно, чем объявить, что каждому классу нужен чат-бот. Зато ближе к настоящей работе образования.
Аргумент выходит за пределы школ. Если люди регулярно передоверяют суждение, социальные условия, которые поддерживают независимое рассуждение, могут ослабнуть, и передоверие станет еще соблазнительнее. Цикл знаком: пользуешься инструментом, потому что так легко, теряешь часть практики делать задачу самому, а потом инструмент еще труднее отложить.
Человеческое познание сформировали миллионы лет биологического развития и поколения совместного обучения. ИИ может быть полезен внутри этой истории, но полезность не то же самое, что безвредность. Вопрос не в том, можем ли мы заставить машины думать за нас. Вопрос в том, от какой части мышления мы готовы отказаться сами.
Источники
- Our minds aren’t equipped to handle AI — The Verge