Осторожнее с ИИ: чат-бот ChatGPT-4o отправляет пользователей на сайты мошенников

Чат-бот ChatGPT способен выполнить серфинг в интернете самостоятельно, чтобы предоставить пользователям актуальную информацию. Однако не всегда ИИ обращается к проверенным источникам, заслуживающим доверия. Издание Futurism выяснило, что ИИ-бот OpenAI не брезгует мошенническими сайтами, перенаправляя туда людей.

Отвечая на запрос журналистов касательно локальных новостей, ChatGPT версии 4o неоднократно ссылался на мошеннический новостной сайт Country Local News, который пестрил фейковыми объявлениями о необходимости обновить программное обеспечение (ПО) и фальшивыми предупреждениями о вирусах. Всплывающие окна призывали пользователей обновить Adobe Flash Player и другие подобны программы. Когда авторы материала кликнули на такое объявление, сайт перешел в полноэкранный режим и продемонстрировал огромное количество фальшивых уведомлений о вирусах под брендом антивирусной компании McAfee.

Марк Стокли, эксперт по кибербезопасности из компании Malwarebytes, ознакомился с ситуацией и сказал, что в худшем случае такие вредоносные уведомления могут спровоцировать пользователя загрузить потенциально нежелательную программу (PUP) — тип программного обеспечения, которое вовсе не нужно, которое может раздражать или его трудно удалить.

По его словам, за последние 18 месяцев он и его коллеги наблюдали огромный всплеск вредоносной рекламы, используемой в качестве средства распространения вредоносного ПО. Преступники размещают рекламу в законных рекламных сетях, чтобы заманить людей на поддельные веб-сайты и обманом заставить их загрузить вредоносное ПО, выдав его за законную программу. Стокли отметил, что вредоносная реклама имитирует известные бренды, и ее чрезвычайно сложно обнаружить, а мошенники, которые ее делают, могут злоупотреблять средствами управления таргетингом рекламных сетей, чтобы гарантировать, что люди увидят фальшивую рекламу того, что им, скорее всего, будет интересно.

Группа по наблюдению за дезинформацией NewsGuard ранее обнаружила, что GPT-4 OpenAI ссылался на материалы, которые были явно сгенерированы ИИ. Эти статьи также располагались на сайтах локальных новостей.

Журналисты Futurism сделали вывод, что для ChatGPT материалы, созданные ИИ, являются более предпочтительными, чем статьи из таких авторитетных источников, как New York Times или Washington Post. Интересно, что чат-бот не способен оценить надежность того или иного источника. На запрос о такой оценке он предлагает пользователю самому сопоставить его отчеты с более авторитетными источниками, приняв во внимание прозрачность их редакционной практики. В других случаях он предупреждает о публикациях, вводящих в заблуждение, и о своей неспособности предоставить надежные источники.

Представитель McAfee, антивирусной компании, которую выдавали за рекламу, раскритиковал ChatGPT за то, что он рекомендовал пользователям перейти на мошеннический сайт. В свою очередь, когда журналисты довели до сведения компании OpenAI информацию о некорректной работе чат-бота, там пообещали исправить проблемы цитирования ChatGPT в будущем.

Но неделю спустя ChatGPT все еще цитировал местные новостные сайты, которые по-прежнему показывали пользователей срочно обновить ПО и проверить компьютеры на наличие вирусов.