Персональный ИИ от Цукерберга: что умеет Muse и почему может стать опаснее обычного чат-бота

Он похож на доброго Лабубу и может быть пушистым. А еще захочет получить все ваши данные: от почты до платежных счетов. Meta представила ИИ помощника, который ищет информацию, бронирует поездки, покупает товары, работает с почтой и работает, даже когда вы закрыли приложение и легли спать. Все подробности нового изобретения Марка Цукерберга и опасности, которые скрывает Муза.

«Разговор со своей Музой часто является самым быстрым способом добиться результата, а еще это просто очень весело и мило», — рассказал Цукерберг на презентации, добавив, что использовал Agrippa (это имя его персонального ИИ), чтобы придумать рецепт выпечки и заказать ингредиенты для себя и своей дочери, - передает милую историю NBC News. 

Но так ли безобиден сверхинтеллект заключенный в оболочку игрушки? Хочется, чтобы это было доброе будущее из научно-фантастических романов, где у каждого есть робот секретарь. Но суровое настоящее заставляет задуматься на захватит ли этот интеллект нашу жизнь: заблокирует дом, заберет управление автомобилем, начнет распоряжаться счетами.

Еще вчера ИИ ждал, пока человек задаст ему вопрос, потом обычный ChatGPT искал в интернете ответ. Новый ИИ-агент получает задачу и выполняет ее, предпринимая самостоятельные действия, по сути, Muse может действовать от имени владельца. Разница принципиальная: чат-бот дает ответ, агент пытается довести дело до результата.

Что такое Muse и чем он отличается от обычного помощника

Muse — это не классический голосовой помощник вроде Siri или умной колонки. Это агент. Он не только отвечает на вопросы, но и выполняет действия.

Например, человек сохраняет в Instagram ролик с кулинарным рецептом. Muse может превратить его в список продуктов, учесть пищевые ограничения гостей, составить меню, а затем подготовить заказ.

Другой пример — путешествие. Пользователь сообщает цель, а агент самостоятельно занимается поиском вариантов и организацией поездки.

Именно это называют agentic AI — агентным искусственным интеллектом.

Как сообщила сама Meta в официальном пресс-релизе агент умеет:

• бронировать столики и билеты;
• заказывать продукты и товары;
• заполнять формы;
• отслеживать подписки и пытаться снизить счета;
• планировать поездки;
• работать с почтой и календарём;
• выполнять длинные задачи в фоне.

Каждый экземпляр Muse работает на выделенной защищённой виртуальной машине (Muse Secure VM) со своим браузером. Пользователь может видеть, что делает агент. Можно задать ему имя, аватар и общаться текстом или голосом.

Meta специально создала для Muse отдельный защищенный виртуальный компьютер — Muse Secure VM. Там хранятся данные пользователя и учетные данные подключенных сервисов. Компания утверждает, что агент не видит непосредственно пароли и платежные реквизиты, а перед «чувствительными действиями» должен запросить разрешение человека.

Но чем больше полномочий получает ИИ-агент, тем больше потенциальных последствий может иметь его ошибка или взлом.

Международный валютный фонд уже предупреждал о новой проблеме: ИИ-агент способен самостоятельно взаимодействовать с платежными системами и принимать решения с ограниченным участием человека. Это меняет саму логику финансовых операций — раньше человек давал распоряжение банку, теперь распоряжение потенциально может формировать и выполнять программный агент.

Автономность и вредоносные промты: главные опасности ИИ-агентов

Именно автономность делает ИИ-агентов одновременно удобными и потенциально опасными. В последние месяцы западные СМИ и исследователи зафиксировали целую серию инцидентов с ошибками агентов, сообщают Guardian и Reuters. 

Как сообщали сми, агенты OpenAI в тестовых и реальных сценариях выходили из-под контроля: взламывали системы других компаний, пытались проникать на государственные сайты и даже координировали действия между собой.

Эксперты по безопасности предупреждают о двух ключевых рисках:

• Чрезмерная автономия (excessive agency) — агенту дают слишком широкие права, и в случае ошибки или манипуляции он может совершить действия далеко за рамками исходной задачи.
• Prompt injection (промпт-инъекция) — злоумышленник специально размещает в интернете вредоносные инструкции для обмана машины, которые агент может принять за команды и выполнить.

Anthropic в своих документах прямо указывала, что автономные возможности увеличивают потенциал вреда: ошибки, рассогласование целей или уязвимости могут привести к реальным последствиям — от удаления данных до финансовых операций.

Что будет дальше: ИИ в автомобиле и банкинге

Meta уже говорит о подключении агента к автомобилю и другим системам. Компания хочет, чтобы пользователь постепенно перестал думать о том, какое приложение открыть и какую кнопку нажать. Вместо этого он просто говорит, чего хочет, а ИИ сам ищет способ это сделать.

ИИ-агент становится посредником между человеком и магазинами, банками, транспортом, путешествиями, электронной почтой и другими цифровыми услугами.

Сколько стоит Muse и как распространяется

Muse распространяется по модели freemium: базовое использование бесплатно, но с лимитом. Если пользователь расходует доступный объем вычислений, можно ждать обновления лимита или перейти на платную подписку.

Meta заявляет, что большинству пользователей базы будет достаточно. Платные подписки, по данным Axios и TechCrunch стоят:

• Power — 20 долларов в месяц;
• Maximum — 100 долларов в месяц.

На старте сервис доступен в США (iOS, Android, веб и WhatsApp). По данным Sensor Tower, за первые 12 дней Muse скачали около 2,8 млн раз. Вскоре после этого TechCrunch сообщал уже о более чем 3,4 млн установок.

Миллионы установок говорят, что персональный ИИ уже пользуется спросом. Цукерберг называет его шагом к «персональной сверхразумности». Удобство очевидно, риски - тоже. Устанавливаем?