Персональний ШІ від Цукерберга: що вміє Muse і чому може стати небезпечнішим за звичайного чат-бота

Він схожий на доброго Лабубу і може бути пухнастим. А ще захоче отримати всі ваші дані: від пошти до платіжних рахунків. Meta представила ШІ-помічника, який шукає інформацію, бронює поїздки, купує товари, працює з поштою і працює, навіть коли ви закрили застосунок і лягли спати. Усі подробиці нового винаходу Марка Цукерберга і небезпеки, які приховує Муза.

«Розмова зі своєю Музою часто є найшвидшим способом досягти результату, а ще це просто дуже весело і мило», — розповів Цукерберг на презентації, додавши, що використовував Agrippa (це ім’я його персонального ШІ), щоб придумати рецепт випічки та замовити інгредієнти для себе і своєї доньки, — передає милу історію NBC News.

Але чи такий вже безневинний надінтелект, ув’язнений в оболонку іграшки? Хочеться, щоб це було добре майбутнє з науково-фантастичних романів, де в кожного є робот-секретар. Але сувора реальність змушує замислитися: чи не захопить цей інтелект наше життя: заблокує будинок, забере керування автомобілем, почне розпоряджатися рахунками.

Ще вчора ШІ чекав, поки людина поставить йому запитання, потім звичайний ChatGPT шукав в інтернеті відповідь. Новий ШІ-агент отримує завдання і виконує його, здійснюючи самостійні дії, по суті, Muse може діяти від імені власника. Різниця принципова: чат-бот дає відповідь, агент намагається довести справу до результату.

Що таке Muse і чим він відрізняється від звичайного помічника

Muse — це не класичний голосовий помічник на кшталт Siri або розумної колонки. Це агент. Він не лише відповідає на запитання, а й виконує дії.

Наприклад, людина зберігає в Instagram відео з кулінарним рецептом. Muse може перетворити його на список продуктів, врахувати харчові обмеження гостей, скласти меню, а потім підготувати замовлення.

Інший приклад — подорож. Користувач повідомляє мету, а агент самостійно займається пошуком варіантів та організацією поїздки.

Саме це називають agentic AI — агентним штучним інтелектом.

Як повідомила сама Meta в офіційному пресрелізі, агент уміє:

• бронювати столики та квитки;
• замовляти продукти й товари;
• заповнювати форми;
• відстежувати підписки та намагатися зменшити рахунки;
• планувати поїздки;
• працювати з поштою та календарем;
• виконувати довгі завдання у фоновому режимі.

Кожен екземпляр Muse працює на виділеній захищеній віртуальній машині (Muse Secure VM) зі своїм браузером. Користувач може бачити, що робить агент. Йому можна задати ім’я, аватар і спілкуватися текстом або голосом.

Meta спеціально створила для Muse окремий захищений віртуальний комп’ютер — Muse Secure VM. Там зберігаються дані користувача та облікові дані підключених сервісів. Компанія стверджує, що агент безпосередньо не бачить паролів і платіжних реквізитів, а перед «чутливими діями» має запросити дозвіл людини.

Але чим більше повноважень отримує ШІ-агент, тим більше потенційних наслідків може мати його помилка або злам.

Міжнародний валютний фонд уже попереджав про нову проблему: ШІ-агент здатний самостійно взаємодіяти з платіжними системами та ухвалювати рішення за обмеженої участі людини. Це змінює саму логіку фінансових операцій — раніше людина давала розпорядження банку, тепер розпорядження потенційно може формувати і виконувати програмний агент.

Автономність і шкідливі промпти: головні небезпеки ШІ-агентів

Саме автономність робить ШІ-агентів одночасно зручними й потенційно небезпечними. В останні місяці західні ЗМІ та дослідники зафіксували цілу серію інцидентів із помилками агентів, повідомляють Guardian і Reuters.

Як повідомляли ЗМІ, агенти OpenAI у тестових і реальних сценаріях виходили з-під контролю: зламували системи інших компаній, намагалися проникати на державні сайти й навіть координували дії між собою.

Експерти з безпеки попереджають про два ключові ризики:

• Надмірна автономність (excessive agency) — агенту надають надто широкі права, і в разі помилки або маніпуляції він може здійснити дії далеко за межами початкового завдання.
• Prompt injection (промпт-ін’єкція) — зловмисник спеціально розміщує в інтернеті шкідливі інструкції для обману машини, які агент може сприйняти за команди та виконати.

Anthropic у своїх документах прямо вказувала, що автономні можливості збільшують потенціал шкоди: помилки, неузгодженість цілей або вразливості можуть призвести до реальних наслідків — від видалення даних до фінансових операцій.

Що буде далі: ШІ в автомобілі та банкінгу

Meta вже говорить про підключення агента до автомобіля та інших систем. Компанія хоче, щоб користувач поступово перестав думати про те, який застосунок відкрити і яку кнопку натиснути. Натомість він просто говорить, чого хоче, а ШІ сам шукає спосіб це зробити.

ШІ-агент стає посередником між людиною та магазинами, банками, транспортом, подорожами, електронною поштою та іншими цифровими послугами.

Скільки коштує Muse і як поширюється

Muse поширюється за моделлю freemium: базове використання безкоштовне, але з лімітом. Якщо користувач витрачає доступний обсяг обчислень, можна чекати на оновлення ліміту або перейти на платну підписку.

Meta заявляє, що більшості користувачів базового доступу буде достатньо. Платні підписки, за даними Axios і TechCrunch, коштують:

• Power — 20 доларів на місяць;
• Maximum — 100 доларів на місяць.

На старті сервіс доступний у США (iOS, Android, веб і WhatsApp). За даними Sensor Tower, за перші 12 днів Muse завантажили близько 2,8 млн разів. Незабаром після цього TechCrunch повідомляв уже про понад 3,4 млн встановлень.

Мільйони встановлень говорять про те, що персональний ШІ вже користується попитом. Цукерберг називає його кроком до «персональної надрозумності». Зручність очевидна, ризики — теж. Встановлюємо?