В документах для выхода на биржу Anthropic сообщила потенциальным акционерам, что продаваемая ею технология может создавать катастрофические или экзистенциальные риски для общества и что компания не может обещать, что её собственные меры защиты предотвратят такой исход. Необычное утверждение для текста, в котором фигурирует оценка стоимости компании.
Что говорится в документах
Предупреждение сформулировано условно. Согласно проспекту, достаточно мощные системы ИИ могут нести катастрофические или экзистенциальные риски для общества, если к их разработке и использованию не подходить ответственно.
Документ связывает опасность с возможностями моделей. Чем шире эти возможности, тем серьёзнее потенциальный вред от неправильно настроенных или злонамеренно используемых моделей. Anthropic говорит, что ей приходится принимать решения о безопасности своих систем, и тут же признаёт: нет гарантии, что эти решения сработают.
Есть и второе признание. Компания не уверена, что другие игроки отрасли будут применять сопоставимые меры защиты. Иными словами, её собственная добросовестность — лишь часть общей картины, и компания прямо фиксирует это в документе.
Финансовый контекст предупреждения
Предупреждение появилось на фоне подготовки Anthropic к IPO. По оценкам авторов исходной публикации, компания может добиваться оценки стоимости до $2 трлн. Они также приводят данные об убытке в $80 млрд за первое полугодие 2026 года. В публикации не объясняется, как был рассчитан этот убыток, и не уточняется, исходит ли оценка стоимости от самой компании или от сторонних аналитиков, поэтому обе цифры стоит воспринимать именно как утверждения авторов публикации.
В проспекте перечислены и другие бизнес-риски, которые рядом с экзистенциальными выглядят почти буднично:
- Электроэнергия и инфраструктура. Нехватка электроэнергии и инфраструктуры, необходимой дата-центрам.
- Сопротивление на местах. Противодействие строительству этих дата-центров.
- Юридические риски. Возможные судебные иски, связанные с использованием продуктов компании.
Замедлиться, но не слишком
Ранее Anthropic призывала всю отрасль замедлить разработку самых мощных моделей ИИ. Компания представляет это как способ снизить риски технологии.
Между тем проспект предупреждает инвесторов: более медленное развитие рынка моделей, платформы и приложений компании или падение спроса могут замедлить её рост и ухудшить финансовые результаты. Оба утверждения могут быть верны одновременно. При этом они обращены к разным аудиториям, и одной из этих аудиторий теперь предлагают купить акции.
Две истории для одной аудитории
В публикации задача сформулирована прямо. Теперь Anthropic должна объяснить инвесторам, почему её модели востребованы на рынке и как она намерена контролировать риски, которые сама считает потенциально катастрофическими. В документах признаётся, что нынешние меры безопасности не дают полной гарантии.
Практические подробности размещения в публикации отсутствуют. В ней нет ни даты подачи документов, ни названия биржи, ни сведений о том, сколько акций могут выставить на продажу. Зато есть собственное описание компанией возможных негативных последствий — гораздо более конкретное, чем привычное обещание «ответственно управлять рисками».
Тот, кто купит акции, по крайней мере не сможет утверждать, что его не предупреждали.