Anthropic, компания, разрабатывающая передовые модели ИИ, подготовила законопроект, который затруднил бы государству остановку работы таких моделей. В нём Конгрессу также предлагается ввести требования безопасности для компаний вроде Anthropic. Это конфиденциальный проект, который Anthropic показала американским законодателям; позднее его копия оказалась в распоряжении одного из СМИ. Это предложение компании, а не действующий закон, и никто в Конгрессе пока ни на что не согласился.
Предложение необычное. Компании из регулируемых отраслей обычно просят сократить число правил. Здесь же компания просит ввести подробный свод правил, установив очень высокий порог для применения полномочия, наиболее важного для её бизнеса: права отключить модель.
Основания для вмешательства: очень высокий порог
Согласно проекту, государство могло бы добиваться запрета на выпуск или использование модели, только если она создаёт предсказуемую и непосредственную угрозу причинения одного из двух видов вреда:
- Финансовый ущерб: более 1 млрд долларов.
- Вред людям: гибель или причинение тяжёлых травм более чем 50 людям.
Угроза также должна относиться к одной из трёх категорий: создание или распространение биологического оружия, выход модели из-под контроля разработчика либо кибератака.
Список короткий. Модель, которая просто ведёт себя плохо, распространяет дезинформацию или помогает в обычных мошеннических схемах, не подпадает под эти формулировки. Проект оставляет право на отключение для сценариев, которые занимают центральное место в дискуссиях о безопасности ИИ.
Кто сможет отключить модель
Вторая часть механизма касается того, у кого в руках выключатель. Министерство торговли не смогло бы самостоятельно остановить работу модели. Ему потребовалось бы решение федерального суда в округе Колумбия.
Проект также запрещает другим федеральным ведомствам и должностным лицам приостанавливать разработку, развёртывание или внутреннее использование таких моделей. Таким образом, путь к отключению проходил бы через одно министерство и один суд — и ни через какие другие инстанции.
Вероятно, именно эта часть вызовет больше всего споров. Сторонники могут назвать её обеспечением надлежащей правовой процедуры. Скептики могут указать, что компания сама написала правила, ограничивающие вмешательство государства в её деятельность. Обе трактовки возможны, и сам проект не позволяет решить, какая из них верна.
Независимые эксперты, которым платят те, кого они проверяют
Проект отводит определённую роль независимым экспертам. Описанный механизм выглядит так:
- Регистрация: оценка, проведённая экспертом, должна быть зарегистрирована в Министерстве торговли.
- Периодические проверки: ответственные за них эксперты будут время от времени проверять разработчиков и их модели.
- Оплата: эксперты могут получать оплату от проверяемых компаний при условии, что размер вознаграждения не зависит от результата проверки.
- 72 часа на уведомление: если оценка выявит непосредственную угрозу того типа, который охватывает законопроект, эксперт должен уведомить ведомство в течение 72 часов после завершения проверки.
Положение об оплате — прагматичный компромисс. Кто-то должен платить за эти проверки, и проверяемая компания — очевидный кандидат. Предохранитель здесь в том, что оплата не может зависеть от заключения. Достаточно ли этого, чтобы эксперты оставались независимыми на практике, — закономерный вопрос, и текст проекта в изложении СМИ на него не отвечает.
Безопасность как часть сделки
Законопроект — не только щит. Он также предусматривает обязанности для разработчиков передовых моделей:
- обязательные правила безопасности
- публикация отчётов о прозрачности
- защита лиц, сообщающих о нарушениях
- информирование Министерства торговли о критических инцидентах
Представитель Anthropic заявил, что документ отражает Advanced AI Framework компании — набор требований безопасности для мощных моделей ИИ, который компания с июня продвигает на федеральном уровне и на уровне штатов. По словам представителя, Anthropic считает эти меры разумными и призывает Конгресс принять их.
Часть, касающаяся штатов
Проект также ограничил бы некоторые требования штатов. В частности, он ограничил бы действие правил штатов об информировании общественности о рисках, независимых оценках и сообщении о критических инцидентах.
Таким образом, предлагается единый федеральный стандарт в обмен на сужение правил штатов. Компании давно выступают за такую схему, потому что соблюдать один свод правил дешевле, чем пятьдесят. Готовы ли штаты охотно отказаться от собственных требований — другой вопрос, и в публикации не говорится, как они могут отреагировать.
Как это вписывается в общую дискуссию
Проект появился на фоне обсуждения других федеральных инициатив по регулированию ИИ. Некоторые сенаторы работают над мерами, направленными на предотвращение катастрофических рисков ИИ. Между тем часть политиков и сторонников безопасности выступает за более строгий надзор или даже за приостановку разработки передовых систем.
На этом фоне текст Anthropic задаёт более узкие основания для государственного вмешательства, чем подходы, предусматривающие всестороннюю проверку моделей до выпуска. В этом и проходит самая чёткая граница между позициями. Один лагерь хочет, чтобы регуляторы сначала проверяли, а уже потом разрешали выпуск. Этот проект позволяет компаниям выпускать модели, возлагает на них обязанности по отчётности и оценке и допускает вмешательство лишь при наличии угроз из короткого перечня тяжёлых, непосредственных опасностей.
Что пока неизвестно
Имеющаяся публикация оставляет ряд вопросов открытыми:
- Продвижение законопроекта: неизвестно, кто может выступить его инициатором и когда его могут внести.
- Определения: не уточняется, как будет определяться, является ли угроза «непосредственной».
- Реакция штатов: публикация не раскрывает, как власти штатов относятся к предлагаемым ограничениям.
- Судебная процедура: порядок получения решения суда в округе Колумбия не описан.
С уверенностью можно сказать немногое. Компания, создающая мощный ИИ, письменно изложила своё представление о правилах, в том числе об условиях, при которых её работу можно остановить. Теперь Конгрессу предстоит решить, брать ли эти условия за отправную точку и как совместить единый национальный стандарт с уже действующими требованиями отдельных штатов.
По крайней мере, это редкий случай, когда компания сама предлагает определение наихудшего сценария. Самостоятельно прописать условия прекращения работы — смелый способ начать переговоры, и законодатели, несомненно, заметят, кто держал перо.