Эра простых чат-ботов прошла: эксперт назвал главную угрозу автономных ИИ-агентов

Мир технологий переживает фундаментальный сдвиг от использования привычных языковых моделей, вроде ChatGPT, к эре автономных агентов искусственного интеллекта. Новые цифровые помощники способны не просто отвечать на вопросы, но и самостоятельно планировать действия, пользоваться инструментами и выполнять сложные многоходовые задачи.

Как передает "Хвиля", об этом эксперт по инновациям Владимир Бандура рассказал в эфире на канале Yuriy Romanenko.

По словам аналитика, привычный формат чата с искусственным интеллектом становится ограниченно полезным, поскольку большинство реальных рабочих задач требуют планирования и последовательных действий, а не просто справочной информации. Эксперт объясняет разницу на примере юридической работы. Если раньше юрист мог спросить у нейросети содержание конкретной статьи кодекса, то автономный агент способен выполнить работу под ключ.

"Если мы можем сказать: вот тебе контракт, вот тебе переписка по этому контракту, подготовь мне судебный иск - это совсем другая история. Если агент может сам посмотреть необходимую нормативку, посмотреть Конституцию, все законы, судебную практику, посмотреть контракт... его полезность в разы больше", - отметил Владимир Бандура.

Он подчеркнул, что прорыв произошел благодаря тому, что даже незначительное улучшение способности модели к планированию приводит к существенному росту качества выполнения сложных задач.

Отдельное внимание эксперт уделил стремительному взлету популярности автономных помощников, созданных энтузиастами, таких как проекты "Clawdbot" или "Motdbot". Эти инструменты позволяют делегировать рутину: проверку почты, продвижение сайтов или ведение соцсетей. Однако главная проблема таких решений - полное отсутствие безопасности. Люди предоставляют таким агентам доступ к цифровой жизни, не осознавая рисков.

"По сути, это как открытая квартира, о которой ты написал, что мы уезжаем на две недели на море, никого дома не будет, золото там, а деньги здесь, а ключи вот тут - заходи и бери. Причем ты это пишешь на Фейсбуке", - предупредил Бандура.

Пользователей, которые бездумно предоставляют доступ к своим банковским картам, логинам и почте незащищенным open-source агентам, ждут неприятные сюрпризы.

Еще одним феноменом стало появление социальных сетей, где общаются исключительно боты. По данным компании SemanticForce, в одной из таких сетей уже зафиксировано более миллиона агентов-авторов.

"Сделали соцсеть для ботов. Это довольно дикая идея... Но это говорит много не только о ботах, но и о нас. В значительной степени это все равно театр. Ты должен задать этому боту инструкцию", - резюмировал эксперт.