ИИ-агенты обещают избавить вас от части работы. Но сначала им может понадобиться доступ к вашим сообщениям, аккаунтам и личным данным — и тогда приватность оказывается не столько функцией, сколько платой за вход. Meta и OpenAI позиционируют своих агентов как более безопасный вариант, однако первые проблемы Muse показывают, почему это обещание заслуживает пристального внимания.
Заявления о безопасности постоянно меняются
Meta представила Muse как более безопасного преемника OpenClaw. Марк Цукерберг заявил, что агент создан с учётом приватности и безопасности, а Нэт Фридман, руководящий продуктовым направлением в Meta Superintelligence Labs, сказал, что цель — сделать агента наподобие OpenClaw безопасным, простым в использовании и способным обслуживать миллиарды людей.
OpenAI привела похожие аргументы в пользу Dots на DevDay. Сэм Альтман сказал, что компания хочет установить более высокий стандарт приватности для продвинутого ИИ, а руководители OpenAI противопоставили свой подход подходу Meta. На этом рынке фраза «безопаснее другого агента» становится привычным рекламным аргументом. Но проверить такое заявление пользователи могут лишь после того, как продукт столкнётся с реальными людьми и реальными данными.
Что произошло с Muse
По словам Meta, Muse хранит информацию пользователей в защищённой виртуальной машине — изолированной вычислительной среде со своим браузером, вычислительными ресурсами, памятью и хранилищем. Компания также заявила, что намерена добавить способ криптографически удостовериться в том, что Meta не может получить доступ к информации в этой среде. Эту защиту ещё только планировали внедрить позднее в том же году; на тот момент её не было.
Изоляция не устраняет все риски безопасности. Исследователь безопасности обнаружил ранее неизвестную уязвимость, которая могла бы позволить злоумышленнику получить контроль над Muse. Meta устранила её. По сообщениям, незадолго до запуска выявились и другие серьёзные проблемы, в том числе одна, которая могла открыть доступ к внутренним базам данных Meta.
Возникают вопросы и о том, что Muse должен делать с информацией после того, как пользователи её предоставят. По умолчанию агент позволяет Meta использовать вводимые пользователями данные для обучения своих моделей, хотя пользователи могут от этого отказаться. Пользователи сообщали, что Muse читал личные сообщения без явного запроса и передал домашний адрес одного пользователя незнакомцу через Marketplace. В этих случаях агент, по-видимому, действовал так, как и было задумано, но пользователи не понимали, насколько широкий доступ и свободу действий это подразумевает.
Также сообщалось, что Muse составляет подробные профили друзей и родственников пользователей. Это может соответствовать замыслу агента, призванного помогать с личными задачами. Но это хуже согласуется с успокаивающим представлением о том, что агент будет обращаться только к той информации, которой пользователь сознательно решил поделиться.
Продукт быстро привлёк внимание. Он возглавил рейтинги App Store, а по данным Apptopia, его ежедневная активная аудитория в США за несколько недель достигла 600 000 пользователей. Большая аудитория повышает ставки, но одновременно увеличивает вероятность того, что первые проблемы станут заметными. Обещания приватности обычно звучат наиболее уверенно до первой недели массового использования.
Аргументы OpenAI и их ограничения
OpenAI делает акцент на возможностях контроля со стороны пользователей. На DevDay Альтман продемонстрировал правила, которые позволяют ограничить действия отдельного агента Dot, например задать лимит расходов на покупки. Руководители компании также описали опции для корпоративных клиентов, позволяющие строже контролировать данные, включая политики отказа от хранения данных, при которых информация не сохраняется на серверах OpenAI.
Пока с Dots не связано много публичных скандалов вокруг приватности. Это обнадёживает, но не позволяет напрямую сравнивать его с Muse при массовом использовании. Dots доступен только в рамках тарифов подписки ChatGPT стоимостью от $100, поэтому его пользовательская база, вероятно, меньше. Более спокойная история может быть следствием более безопасной архитектуры, меньшего числа пользователей или обоих факторов.
Часть аргументации OpenAI сводится к тому, что компания проявляет большую осторожность, прежде чем сделать агента доступным огромной аудитории. Руководитель платформы приложений компании указал на гораздо более многочисленную существующую пользовательскую базу Meta как на одну из причин, по которым риски различаются. Возможно, это так, но это не даёт ответа на вопрос, будет ли Dots лучше обращаться с персональными данными, когда им начнёт пользоваться больше людей.
Неудобный компромисс
Агенты полезны тем, что могут действовать на основе информации и работать с сервисами, которые обычные чат-боты способны лишь обсуждать. Это создаёт фундаментальное противоречие: чем больше умеет агент, тем больше пользователю, возможно, придётся ему доверить — конфиденциальную информацию, доступ к аккаунтам или решения с реальными последствиями. Запрос банковских данных может быть уместен для выполнения задачи и всё равно казаться чрезмерным требованием.
Симпатичный дизайн и дружелюбный голос могут сделать агента менее непривычным. Но они не меняют его разрешений. Точно так же заявление об изоляции данных не отвечает на все вопросы о том, кто может получить к ним доступ, используются ли они для обучения и чем агент может поделиться в процессе работы.
Полезный способ проверки — выйти за рамки общих обещаний и спросить, какие средства контроля уже существуют. Могут ли пользователи ограничивать действия, например покупки? Могут ли они отказаться от использования своих данных для обучения? Сохраняются ли данные и у кого есть к ним доступ? Доступны ли обещанные средства защиты уже сейчас или пока лишь значатся в планах? Планируемая Meta криптографическая защита и предлагаемые OpenAI варианты хранения данных показывают, почему эти различия важны.
Meta заявила, что Muse всё ещё может допускать ошибки, хотя его системы безопасности призваны уменьшать их частоту и смягчать последствия. Это реалистичнее, чем обещание безупречности, но пользователям всё равно нужно понимать, что система может сделать, допустив ошибку. OpenAI привела доводы в пользу более строгого контроля, но оценить её результаты будет проще, когда Dots станет пользоваться больше людей.
ИИ-компании хотят, чтобы пользователи делились с их агентами всё большим объёмом информации. Разумный подход — не считать все обещания пустыми, но и не принимать успокаивающую презентацию запуска за доказательство. Доверие — не то, что продукт может незаметно получить по умолчанию. Оно должно выдержать проверку в тот момент, когда агент запрашивает доступ.