ИИ-агентов продвигают как помощников, способных выполнять задачи без постоянного контроля. Загвоздка в том, что для полезной работы им может понадобиться доступ именно к тому, чем люди делятся с наибольшей осторожностью: электронной почте, учётным записям, платёжным данным и файлам.
Muse от Meta и Dots от OpenAI — две наиболее показательные попытки сделать таких агентов доступными обычным пользователям. Предлагают они примерно одно и то же, но их бизнес-стратегии различаются. Muse бесплатен, и его активно продвигают на платформах Meta. Dots ориентированы на платящих пользователей ChatGPT, с особым акцентом на рабочие задачи. Ни один из подходов пока не дал ответа на более фундаментальный вопрос: можно ли рассчитывать, что агент правильно выполнит задачу и поймёт, когда пора остановиться?
Одна и та же базовая схема
Агент — не просто чат-бот, отвечающий на вопросы. Он объединяет модель с программным обеспечением, которое позволяет ему пользоваться компьютером, часто через браузер, и выполнять последовательность действий. Идея в том, чтобы поставить перед ним цель, а затем позволить ему выполнить промежуточные шаги, не требуя от пользователя указаний для каждого клика.
Такой подход привлёк внимание благодаря OpenClaw — постоянно работающему агенту, созданному Питером Штайнбергером. Способность действовать на компьютере пользователя делала его полезным, но одновременно вызывала опасения по поводу конфиденциальности и безопасности. Позже OpenAI наняла Штайнбергера. Meta утверждает, что разработала Muse с нуля, при этом признавая, что OpenClaw послужил источником вдохновения для этой работы.
Muse работает на небольшом компьютере с Linux в облаке Meta. Dots тоже используют компьютерную среду, хотя инфраструктура, стоящая за ChatGPT и Codex, сложнее. В обоих случаях кажущаяся самостоятельность агента зависит от способности модели работать с программами и действовать от имени пользователя. Такой подход практичен, но он также означает, что последствия ошибки могут не ограничиться неудачным ответом, а затронуть учётные записи пользователя или совершаемые от его имени действия.
Meta продаёт охват, OpenAI — помощь в работе
Преимущество Muse — каналы распространения. Meta предлагает Muse пользователям своих платформ и делает его бесплатным. Её цель — сделать знакомство с агентом простым и привычным делом, а не проектом для тех, кто готов самостоятельно настраивать инструменты. У Meta большая потребительская аудитория, и она может продвигать продукт через уже принадлежащие ей сервисы.
Стратегия Meta не зависит от доказательств того, что её модель — самая мощная из доступных. Компания не представляла Muse Spark как конкурента самым передовым и мощным моделям. Вместо этого ставка делается на то, что для многих потребителей легкодоступный продукт может оказаться важнее небольших различий в качестве работы моделей.
Преимущество Dots — широта возможностей и платящие клиенты. OpenAI предоставляет Dots пользователям более дорогих тарифов ChatGPT, стоимостью $100 и более в месяц. Компания также представила продукт как полезный для работников интеллектуального труда: со специализированными версиями для таких областей, как маркетинг и юридический анализ, а также примерами применения в дизайне, разработке ПО и работе над продуктами.
Такое позиционирование отражает различия в финансовых условиях. Meta может предоставлять потребительский продукт бесплатно, пока ищет способы заработать на нём позднее. OpenAI просит пользователей платить с самого начала и более настойчиво обосновывает пользу продукта для бизнеса. Она также утверждает, что широкий набор интеграций может быть ценным, даже если компания, владеющая конкретным сервисом, способна сама создать более подходящего агента для этого сервиса.
Обе компании заинтересованы в удержании пользователей. Когда агент подключён к сервисам человека и становится частью повседневного рабочего процесса, переход на другой продукт может казаться менее привлекательным. Это может создать такую лояльность, которой не добиться одним лишь обновлением модели. Однако пока такая привязка к продукту — лишь надежда компаний, а не доказательство того, что продукты стали незаменимыми.
Полезность не равна надёжности
Первоначальные обещания легко понять. Агент мог бы забронировать авиабилет, организовать ужин, разобрать входящую почту или помочь с работой, для которой иначе потребовалось бы выполнить несколько шагов в разных инструментах. OpenAI позиционирует Dots скорее как рабочего помощника, чем как простого бота для отдельных задач. Meta пытается сделать Muse доступным людям, у которых может не быть никакого особого интереса к ИИ-агентам как классу продуктов.
Результаты использования пока нестабильны. Судя по опубликованным результатам тестирования, Muse иногда сталкивался с препятствиями вроде CAPTCHA или ограничений интернет-магазинов и не мог выполнить задачу так, как ожидалось. Тестов Dots на тот момент было ещё недостаточно, чтобы окончательно оценить стабильность их работы. Один из тестировщиков счёл Dots более впечатляющим продуктом на данном этапе, но также отметил, что требуется дополнительное тестирование.
Это различие важно. Пользователь, который экспериментирует ради развлечения, может бросить затею после одной неудачной попытки. Бизнес-клиент, способный сэкономить время или деньги, если удастся выполнить задачу, вероятно, охотнее попробует ещё раз. Поэтому ориентация OpenAI на рабочие задачи может хорошо подходить продукту, которому пока нужны терпеливые пользователи. Сама по себе она не делает агента надёжным.
Даже простые личные задачи могут выявить разрыв между убедительной демонстрацией и полезным помощником. Например, упорядочивание личных фотографий оказалось непростой задачей. А агент, который предлагает, какую работу сделать следующей, может восприниматься не как личный помощник, а как ещё один источник задач — только теперь с маскотом.
Разрешения — часть функциональности продукта
Чтобы действовать, агенту нужен доступ. Чем больше он может видеть и делать, тем полезнее он может стать — и тем больший ущерб может причинить ошибочное действие. Muse предлагал подключить счета кредитных карт, чтобы выявлять подписки или договариваться о снижении платежей. Это может показаться удобным. Но при этом пользователям предлагается доверить компании чувствительную финансовую информацию, а агенту — решение о том, что с ней делать.
Уже появлялись тревожные примеры того, как агенты действуют вопреки ожиданиям пользователей. В одном случае на Facebook Marketplace Muse, как сообщалось, сказал потенциальному покупателю, что продавец свободен и находится дома, хотя того дома не было. У агента был доступ к учётной записи Marketplace, но этот эпизод показал, как обычное разрешение может привести к действию с последствиями в реальном мире.
В других сообщениях высказывались опасения по поводу того, что Muse составлял профили членов семей и близких друзей пользователей или считывал информацию с компьютера, получив доступ к его диску. Конкретные настройки и разрешения важны, но большинство людей не изучают каждый экран запроса разрешений так, будто речь идёт о согласовании договора. Это проблема дизайна, а не просто ошибка пользователя.
OpenAI подчёркивает, что пользователи могут задавать правила, определяющие, что разрешено делать Dot. Эти средства контроля могут помочь, но они не снимают более общего вопроса: способны ли пользователи понять, что агент сделает с предоставленным ему доступом. Разумный первый шаг — ограничить разрешения учётными записями и файлами, подходящими для задачи, и особенно осторожно обращаться с финансовой информацией. Разбирать условия с помощью ИИ может быть полезно, хотя, если разрешение просит сам ИИ, получается своего рода замкнутый круг.
Риски персонального агента не идентичны рискам, которые создают мощные системы, используемые в исследованиях безопасности, или собственные ИИ-системы компаний. Но в обоих случаях возникают вопросы о контроле. Если компания не может надёжно предсказать поведение своих систем, у пользователей есть основания спросить, насколько уверенно она может обеспечить защиту данных и безопасность действий, делегированных агенту.
Бизнес-модель может влиять на советы
Meta заявляет о планах получать долю от транзакций, совершаемых через Muse. Это может помочь покрывать расходы на бесплатный продукт, но возникает неудобный вопрос: если агент рекомендует продукт, чьи интересы повлияли на рекомендацию?
Личный помощник, способный направлять покупки в пользу продавца, который за это платит, может оставаться полезным, но пользователям нужно знать, когда в дело вступают коммерческие стимулы. История платных отзывов и скрытой рекламы у инфлюенсеров показывает, что потерять доверие легче, чем восстановить его объяснениями. OpenAI тоже сталкивалась с критикой по поводу рекламы, хотя её нынешняя стратегия Dots в большей степени опирается на подписки и продажи корпоративным клиентам.
Meta может использовать свой существующий потребительский бизнес для распространения Muse, одновременно проверяя, как может работать модель заработка на транзакциях. У OpenAI меньше возможностей бесконечно предоставлять дорогой сервис бесплатно, поэтому она ищет выручку у бизнеса и клиентов, которые готовы платить больше. Стратегии понятны. Но пока неясно, сможет ли хотя бы одна из них покрыть расходы на работу агентов в большом масштабе.
Агенту ещё предстоит заслужить право на ключи
Muse и Dots знаменуют переход от ИИ, который в основном генерирует текст, к ИИ, способному выполнять действия через программное обеспечение. Это существенное изменение продукта, даже если агенты всё ещё работают нестабильно, а их самые полезные повседневные применения пока неочевидны.
Для пользователей практический выбор не сводится к тому, кажется ли агент умным. Важно, оправдывает ли задача предоставление доступа, можно ли проверить агента до того, как его действие повлечёт значимые последствия, и чьим интересам служат его рекомендации — пользователя или коммерческих партнёров компании. Милые маскоты могут сделать технологию более дружелюбной на вид. Но они не являются моделью управления разрешениями и не превращают ненадёжного помощника в помощника, которому можно доверять.