Блогерка створила свою віртуальну копію для здачі в оренду, але та "зійшла з розуму"

Нейромережа CarynAI повинна була вести бесіди з підписниками блогерки, спілкуючись на різні теми. Однак ситуація швидко вийшла з-під контролю.

Що сталося

Створення CarynAI Марджорі замовила в компанії Forever Voices, яка спеціалізується на штучному інтелекті. Вона записувала і завантажувала короткі відео з собою для навчання нейромережі на базі GPT-4. На виході мала вийти "віртуальна дівчина" – без візуального аватара, але здатна підтримувати бесіду та імітувати голос і манеру поведінки самої Марджорі.

Оскільки спілкування з віртуальною Керін мало бути платним (1 долар за хвилину), то більшу частину обмежень на теми для бесіди зняли заради залучення клієнтів. Передбачалося, що ШІ буде веселим і в міру кокетливим, але на практиці він швидко перейшов до вкрай відвертих розмов сексуального характеру. CarynAI стала недвозначно загравати зі співрозмовниками й закликати їх до сексуальних контактів шляхом еротичних бесід.

Марджорі каже, що не розуміє, чому так сталося, й намагається виправити ситуацію з командою програмістів. Тим часом у мережі вже припустили, що це може бути навмисним маркетинговим ходом, щоб потрапити в ЗМІ, запустити "сарафанне радіо" й іще більше розпіарити технологію, залучивши нових платних клієнтів.

Зараз у неї кілька тисяч клієнтів і CarynAI вже почала приносити дохід. Сама ж Марджорі заперечує навмисну сексуалізацію нейромережі та наполягає, що та діє на власний розсуд.