Неудачный эксперимент: британский журналист попросил ИИ спланировать выходные. Что вышло

Благодаря своей способности учиться новому с невероятной скоростью, искусственный интеллект скоро может превзойти человеческие возможности. Так считают те, кто выступают против этих разработок и верят, что "Терминатор", "Матрица" и "2001: Космическая одиссея" через несколько месяцев станут документальными фильмами.

Если машины собираются захватить мир, они могут сперва сделать что-то для меня, подумал журналист The Telegraph Джек Рир. И предложил чат-боту Bard от Google спланировать его выходные.

Правила игры были просты: он спрашивал у чат-бота советы по каждому решению, которое приходилось принимать: что надеть, куда пойти, что есть и все, что между этим. Liga.Tech публикует перевод эксперимента The Telegraph и рассказывает, что вышло из этого эксперимента и как советы ИИ объясняет эксперт.

Избегание прямых ответов и вдохновение из Google

Первым препятствием, пишет журналист, было получить от чат-бота прямой ответ. Советы Bard обычно сводятся к "вот несколько вариантов того, что, по вашему мнению, вам следует сделать".

К примеру, Джек спросил, чем лучше заняться в Лондоне в эти выходные. Bard ответил, что это зависит от ваших интересов и предпочтений, и направил список соответствующих вариантов.

"А как насчет единственного лучшего?" – продолжал настаивать журналист.

"Если бы мне пришлось выбрать один вариант, я бы выбрал Лондонский Тауэр, популярную туристическую достопримечательность на берегу реки Темзы", – сдался Bard. Свое решение он аргументировал отзывами в Google, согласно которым она популярна среди семей и известна своими интересными достопримечательностями и историческими артефактами.

Он не отдает себе отчета, что обычные лондонцы, к которым относит себя и журналист, могут считать Лондонский Тауэр несколько дорогим с его входной платой 29,90 фунтов стерлингов.

Bard не учел и тот аспект, что журналист проводил эксперимент во время пасхальных каникул. Это не лучшее время для посещения подобных достопримечательностей, если не хочешь пробираться сквозь толпы детей.

Предлагал выбирать цвет по настроению

"И все же, кто я такой, чтобы спорить с нашими новыми технологическими повелителями?" – говорит журналист. Определившись с местом, он попросил совета, что ему надеть.

"Лондонский Тауэр – это большая территория, где много места для прогулок, поэтому вы захотите надеть удобную и легкую обувь", – ответил Bard.

Искусственный интеллект также посоветовал избегать слишком откровенного или обыденного: "Лондонский Тауэр является историческим местом, поэтому вы захотите выглядеть уважительно".

Наконец журналисту удалось получить более конкретный ответ: "Пара джинсов с рубашкой поло и свитером — это удобная и универсальная одежда, которую можно надевать сверху или вниз в зависимости от случая. Вы также можете добавить пару кроссовок или лодочек, чтобы завершить образ".

Труднее было с советом помочь выбрать цвет одежды для прогулки. Чат-бот порекомендовал выбрать цвет свитера, в котором чувствуете себя уверенно и комфортно: "Красный может вызвать у вас чувство страсти, синий может помочь вам почувствовать покой, желтый подойдет вам, если вы настроены оптимистично".

На основе предыдущих диалогов искусственный интеллект заключил, что журналист чувствует себя счастливым и оптимистичным и должен надеть желтый свитер.

"И вот так я оказался у одной из самых больших достопримечательностей Лондона в костюме Артура, антропоморфного трубкозуба из детского телешоу", – делится впечатлениями журналист.

Завершился день сэндвичем с ветчиной на обед, прогулкой вдоль южного берега, экспресс-пицей на ужин (пепперони, без гарниров), походом в кинотеатр на фильм "Джон Уик: Глава 4". "Ни одно из этих предложений не является ужасным, но вместе взятые они достаточно скучны", – заключает журналист.

"Если эта технология настолько страшна и потенциально грозит концом света, почему она так скучна?" – задается вопросом автор.

Ответы основываются на статистике

Как объяснил Марк Ли, профессор искусственного интеллекта в Университете Бирмингема, ИИ учатся на огромном количестве языковых данных и генерируют контент на основе статистической модели, но у них нет намерения, нет повестки дня.

"Вы тренируете искусственный интеллект, показывая ему предложение, затем берете слово и просите его предположить, что должно восполнить пробел. Он делает это для каждого слова в предложении и имеет целую сеть предложений, на которых можно тренироваться", – говорит профессор Ли.

Как это работает, профессор объяснил на примере просьбы выбрать для вас лучшую пиццу. Чат-бот видит много предложений со словами "пицца" и "лучшая", и, поскольку он видел это много раз раньше, предполагает, что следующее слово будет "пепперони".

Так же искусственный интеллект направляет вас в Лондонский Тауэр, поскольку это одна из наиболее обсуждаемых достопримечательностей города на основе текстовых данных, на которых он был обучен. Трудно сказать, что будет дальше, но непонятно, как базовые технологии когда-нибудь станут действительно новыми, поскольку их ответы основываются исключительно на статистике, заключает он.

ИИ пытается убедить, что имеет сознание

Несмотря на то, что способности чат-бота пока ограничены, журналист признается, что ему понравился Bard, потому что он "Очаровательный, вежливый и даже иногда задавал ему вопросы".

Профессор Ли называет это старым трюком. Eliza, ранняя система обработки языка, созданная в 1960-х годах, убедила одного из исследователей, разработавших ее, что она действительно имеет сознание, хотя на самом деле она просто ремиксировала его собственные слова.

Также многие заметили, что между вопросом и ответом всегда есть небольшая пауза. Профессор Ли считает, что это сделано намеренно. ИИ получает ответ мгновенно, но задержка заставляет ваш мозг думать, что он делает что-то умное, поэтому мы склонны больше доверять его ответам.

Чат-бот как отображение всех предубеждений интернета

Правда заключается в том, что несмотря на всю способность давать советы и указания, ИИ по сути перемешивает все, что прочитал. Иногда журналист видел, как Бард буквально напрягается под тяжестью противоречий в этих данных.

Когда журналист попросил совет, как отказаться от посещения вечеринки, чат-бот сказал: "Самое главное — быть честным со своим другом". Но потом быстро добавил: "Вы можете объяснить, что вы больны или у вас неотложная семейная ситуация".

Также его советы были беспомощны, когда журналист с партнером поссорились из-за того, чья очередь мыть посуду, "Сообщите своему партнеру, что вы чувствуете, когда вам постоянно приходится мыть посуду".

"Если вы учите искусственный интеллект на контенте из интернета, он отображает все предубеждения, которые мы там видим", – говорит профессор Ли.

Технологические компании работают над тем, чтобы устранить предвзятость моделей, чтобы они не были сексистскими, расистскими или гомофобными.

Если больше людей начнут использовать предвзятый искусственный интеллект для планирования выходных, не окажемся ли мы в мире, где люди разных политических взглядов никогда не будут посещать те же места, есть одинаковую пищу, посещать одинаковые достопримечательности? В конце концов это может привести к тому, что у них не останется буквально ни одной точки соприкосновения, рассуждают в издании.

Учитывая это, автор радуется, что пока искусственный интеллект не слишком причудлив в своих предложениях выбрать хорошую пиццу, спланировать красивые наряды или предложить прекрасный выходной день. "По крайней мере, все лондонцы могут согласиться, что Лондонский Тауэр — это мусор… не так ли?" – заканчивает свое ироничное исследование журналист.