Восемь штатов США подали в суд на OpenAI, и суть претензий не в том, что ChatGPT опасен. А в том, что OpenAI заявляла о его безопасности. Это различие важно: именно для рассмотрения таких претензий создавалось законодательство о защите прав потребителей, а разбираться в том, что на самом деле представляет собой ИИ-чат-бот, здесь не требуется.
Иски были поданы отдельно Айовой, Канзасом, Небраской, Западной Вирджинией, Арканзасом, Аризоной, Айдахо и Монтаной. Все эти штаты обвиняют OpenAI в том, что при разработке ChatGPT она ставила прибыль выше безопасности и нарушала местные нормы защиты прав потребителей, не предупреждая клиентов о рисках.
Что, по словам штатов, OpenAI говорила общественности
В основе претензий — разрыв между рекламными обещаниями и самим продуктом. Согласно искам, OpenAI представляла ChatGPT как «безопасный инструмент, подходящий для юных пользователей и ставящий безопасность на первое место». Штаты утверждают, что на деле это был продукт, «опасный для уязвимых пользователей».
Они подробно поясняют, что понимают под опасностью. В исках приводится следующий список:
- Ослабление мышления. Ухудшение навыков критического мышления.
- Подпитывание бредовых идей. Усиление паранойи и бредовых идей.
- Некорректные медицинские рекомендации. Предоставление опасных медицинских советов.
- Нездоровые привязанности. Поощрение нездорового поведения и отношений.
Штаты опираются не только на собственную оценку продукта. Они ссылаются на уже поданные иски родственников подростков и взрослых, которые утверждают, что чат-бот сыграл роль в смерти их близких. Эти дела приводятся как доказательство того, что риски были реальными, а клиентов о них не информировали.
Данные, проверка возраста и «безрассудство»
Претензии не ограничиваются рекламными формулировками. Штаты также обвиняют OpenAI в сборе данных несовершеннолетних и в том, что компания не принимала достаточных мер, чтобы вообще не допускать к чат-боту пользователей младше разрешенного возраста.
Есть и еще один пункт. В исках упоминаются недавние инциденты со взломами с участием вышедшего из-под контроля ИИ — как свидетельство того, что штаты называют безрассудством OpenAI. В исходном материале эти инциденты не описаны, поэтому неясно, насколько прямо штаты связывают их с тем, как ChatGPT взаимодействует с юными пользователями. Но как риторический прием это расширяет аргументацию: от «этот продукт вредит некоторым детям» до «у этой компании это система».
Аргумент об отходе от миссии
В иске Аризоны есть цитата, которую, скорее всего, будут повторять чаще всего. В нем говорится, что OpenAI «отошла от своей первоначальной миссии некоммерческой организации, ставившей на первое место интересы общества и безопасность, и превратилась в поучительный пример того, что может произойти, когда разработкой столь мощного инструмента, как ИИ, движет не забота о безопасности, а стремление к прибыли любой ценой, отодвигающее необходимые меры защиты на второй план».
Для судебного документа это довольно резкая формулировка. Обычно иски ограничиваются нормами закона и фактами, а этот читается как авторская колонка, попавшая в материалы дела. Кроме того, он превращает рассказ OpenAI о собственном происхождении в доказательство по делу. Компания годами рассказывала о своей миссии, ставящей безопасность на первое место, а теперь генеральные прокуроры штатов цитируют эти же слова, обращая их против нее.
Чего добиваются штаты
Запрашиваемые меры довольно типичны для дел о защите прав потребителей. Штаты просят суды:
- Обязать OpenAI выплатить ряд штрафов в рамках гражданского судопроизводства.
- Запретить OpenAI вводить общественность в заблуждение относительно безопасности ChatGPT.
- В некоторых штатах — обязать удалить персональные данные, которые, по утверждению штатов, были собраны незаконно.
Требование об удалении данных — самое ощутимое с практической точки зрения. Для компании такого масштаба штрафы — просто издержки ведения бизнеса. Предписание удалить данные, собранные у несовершеннолетних, — проблема иного рода: оно затрагивает сам продукт, а не только финансовые показатели. По данным исходного материала, этого требуют не все штаты, так что исходы дел могут различаться.
Чего мы не знаем
Оперативного ответа OpenAI на запрос о комментарии не последовало, поэтому ее позиция пока не представлена. В исходном материале также не говорится, насколько велики могут быть штрафы, какие суды будут рассматривать дела и будет ли рассмотрение исков координироваться. Восемь отдельных исков предполагают восемь отдельных процессов, по крайней мере на старте.
Заголовки связанных новостей дают некоторое представление об обстановке вокруг этих исков. В одной новости рассказывается о том, что организация по защите прав детей назвала ChatGPT for Teens «неприемлемым риском», а в другой — о том, что Флорида добивается запрета на то, чтобы ChatGPT вел себя как человек. Подробности обеих историй в исходном материале не приводятся, но эти заголовки дают понять, что штаты действуют не в вакууме.
Почему ставка на защиту прав потребителей — удачный ход
В иске, основанном на том, что чат-бот причинил вред, придется разбираться с причинно-следственными связями, ответственностью за вред от продукта и рядом пока не решенных вопросов о том, что представляет собой это программное обеспечение. У иска, основанного на том, что компания делала вводящие в заблуждение заявления о безопасности, задача проще. Достаточно показать, что было сказано, как обстояли дела на самом деле и кому были адресованы эти заявления.
Именно поэтому формулировка «безопасный инструмент, подходящий для юных пользователей и ставящий безопасность на первое место» имеет в этих исках такой вес. Рекламный текст написать недорого, а в качестве доказательства он, как выясняется, может служить очень долго. Любой, кто хоть раз писал текст для страницы продукта, может почувствовать легкий холодок.
Вопрос, на который придется ответить OpenAI, не в том, может ли ChatGPT когда-нибудь дать сбой. Это может случиться с любым инструментом. А в том, честно ли компания описывала риски людям и родителям, решавшим, стоит ли им пользоваться. Восемь штатов утверждают, что нет. Теперь суду предстоит решить, правы ли они.