Как скандальный эксперимент с АИ-ботами поставил под большой вопрос будущее демократии

Недавно ученые из Цюрихского университета провели, по-моему, очень интересный эксперимент.

Они пытались выяснить, как "плохие актеры" могут успешно использовать боты с искусственным интеллектом для убеждения людей в онлайн-дискуссиях.

Для этого создали аккаунты для ботов на Reddit (крупнейшая онлайн-платформа форумов). Дали им определенный портрет и историю, причем довольно своеобразную (один из ботов представлял воображаемого темнокожего мужчину, который пострадал от изнасилования и выступал против популярного движения Black Lifes Matter).

Они могли не только видеть сообщения от других пользователей и писать ответы. Но также учитывать другие сообщения этих пользователей и информацию о них (что пользователь пишет в разделе о себе), и это позволяло ботам создавать весьма таргетированные и персональные аргументы для убеждения других пользователей. И с таким подходом это у них очень хорошо получалось.

Понятно, что такие боты – это сущности очень масштабируемые. Только в этом ограниченном эксперименте они написали тысячи комментариев.

Сам эксперимент вызвал большой скандал, потому что администрацию Reddit никто о нем не предупреждал, как и пользователей. А такое использование ботов без согласования запрещено их политиками. Их это настолько возмутило, что они готовят официальные юридические претензии.

Не знаю, как там все закончится. Но сам эксперимент, несомненно, удачный и показательный.

Вся идея демократии строится на свободном и открытом для всех обсуждении важных для общества решений – выборы должностных лиц, принятие определенных важных законов и т.п.

И очевидно, как 2+2, что искусственный интеллект может быстро перевернуть эту конструкцию — как в плюс, так и в минус.

Причем даже игроками не из этого конкретного общества.

Вообще несложно представить какую-нибудь группу из раши, Северной Кореи или такого плана мест, которая создает тысячи, десятки тысяч либо хоть миллионы ботов, наводняет ими социальные сети в определенной стране. Системно вступает в сотни тысяч дискуссий. Накапливает багаж наиболее действенных доводов. Координирует усилие. Изучает собеседников в диалогах, создает сильные персональные аргументы.

И это все против людей, которые в большинстве своем даже не понимают, что такое может быть, притом что это уже повседневность.

Кроме того, также вполне можно представить сценарии значительного усиления демократии. Когда АИ выступает как грибница, некой разумной средой, в которой общество может кристаллизовать свою волю и оптимальные решения. В котором он может являться эффективным модератором в диалоге миллионов. И наконец соответственно — перевести демократию из в значительной степени иллюзорного состояния, как есть сейчас, в реальность.

Оригинал