Розробнки повинні припинити ігнорувати проблему галюцинацій ШІ

Якщо я введу «покажи мені зображення Алекса Кранца» у вікні підказки, Meta AI неминуче повертає зображення дуже гарних темноволосих чоловіків із бородами. Я лише деякі з цих речей!

Meta AI — не єдиний, хто бореться з деталями рекламного блоку The Verge . ChatGPT сказав мені вчора, що я не працюю в The Verge . Близнюки Google не знали, хто я такий (чесно), але після того, як мені сказали, що Нілай Пател був засновником The Verge , вони вибачилися та виправилися, сказавши, що це не так. (Я запевняю вас, що він був.)

Коли ви запитуєте цих ботів про речі, які насправді важливі, вони теж плутають. Запуск Galactica від Meta у 2022 році був настільки поганим, що компанія відключила ШІ через три дні . На початку цього року у ChatGPT було заклинання, і він почав виривати абсолютну нісенітницю , але він також регулярно вигадує прецедентне право , що призвело до того, що численні юристи потрапили в суперечку з судами.

Штучний інтелект продовжує псуватися, тому що ці комп’ютери дурні. Надзвичайні своїми здібностями і дивовижні своєю нерозумністю. Я не можу бути в захваті від наступного повороту в революції штучного інтелекту, тому що цей поворот є місцем, де комп’ютери не можуть постійно підтримувати точність навіть щодо незначних речей.

Я маю на увазі, що вони навіть облажалися під час великої доповіді Google щодо штучного інтелекту на I/O. У рекламному ролику нової пошукової системи Google із штучним інтелектом хтось запитав, як полагодити застряглу плівкову камеру, і запропонував «відкрити задні двері й обережно видалити плівку». Це найпростіший спосіб знищити всі фотографії, які ви вже зробили.

Складні стосунки ШІ з правдою називаються «галюцинаціями». Якщо говорити надзвичайно просто: ці машини чудово виявляють шаблони інформації, але у своїх спробах екстраполювати та створювати вони іноді помиляються. Вони фактично «галюцинують» нову реальність, і ця нова реальність часто помилкова. Це складна проблема, і кожна людина, яка зараз працює над ШІ, усвідомлює це.

Один колишній дослідник Google стверджував, що це можна буде виправити протягом наступного року (хоча він поскаржився на такий результат), і Microsoft має інструмент для деяких своїх користувачів, який має допомогти їх виявити . Керівник відділу пошуку Google Ліз Рейд сказала The Verge , що також усвідомлює проблему . «У будь-якій мовній моделі існує баланс між креативністю та фактичністю», — сказала вона моєму колезі Девіду Пірсу. «Ми справді збираємося перекосити це в бік реальності».

Але зауважте, як Рейд сказав, що є баланс? Це тому, що багато дослідників ШІ насправді не вважають, що галюцинації можна розгадати. Дослідження, проведене Національним університетом Сінгапуру, показало, що галюцинації є неминучим результатом усіх великих мовних моделей.  Так само як жодна людина не має права на 100 відсотків завжди, ці комп’ютери також.

І, мабуть, тому більшість основних гравців у цій галузі — тих, хто має реальні ресурси та фінансовий стимул змусити нас усіх прийняти штучний інтелект — вважають, що вам не варто про це хвилюватися. Під час основної доповіді Google IO додав крихітним сірим шрифтом фразу «перевірити точність відповідей» на екран під майже кожним новим інструментом штучного інтелекту, який демонструвався — корисне нагадування, що його інструментам не можна довіряти, але він також не не думаю, що це проблема. ChatGPT працює аналогічно. Маленьким шрифтом під вікном підказки написано: «ChatGPT може робити помилки. Перевірте важливу інформацію».

Це не застереження, яке ви хочете бачити від інструментів, які мають змінити все наше життя в найближчому майбутньому! І люди, які створюють ці інструменти, здається, не надто піклуються про вирішення проблеми, крім невеликого попередження.

Сем Альтман, генеральний директор OpenAI, якого ненадовго звільнили за те, що він надавав пріоритет прибутку над безпекою , пішов ще далі і сказав, що будь-хто, хто має проблеми з точністю ШІ, наївний. «Якщо ви просто зробите наївну річ і скажете: «Ніколи не кажіть нічого, у чому ви не впевнені на 100 відсотків», ви можете змусити їх усіх зробити це. Але він не матиме тієї магії, яка так подобається людям», — сказав він натовпу на конференції Salesforce Dreamforce минулого року .

Ця ідея про те, що в штучному інтелекті є якийсь магічний соус, який не піддається кількісному вимірюванню, який дозволить нам пробачити його слабкий зв’язок із реальністю, часто згадується людьми, які прагнуть відмахнутися від занепокоєння щодо точності. Google, OpenAI, Microsoft та багато інших розробників і дослідників штучного інтелекту відкинули галюцинації як невелике роздратування, яке слід пробачити, оскільки вони на шляху до створення цифрових істот, які можуть полегшити наше життя.

Але приношу вибачення Сему та всім іншим, хто фінансово стимулював мене захоплювати ШІ. Я не приходжу до комп’ютерів за неточною магією людської свідомості. Я приходжу до них, тому що вони дуже точні, коли люди ні. Мені не потрібен комп’ютер, щоб бути моїм другом; Мені це потрібно, щоб правильно визначити свою стать, коли я прошу, і допомогти мені випадково не виставити плівку під час лагодження зламаної камери. Я припускаю, що юристи хотіли б, щоб судова практика була правильною.

Я розумію , звідки походять Сем Альтман та інші проповідники ШІ. Існує можливість в якомусь далекому майбутньому створити справжню цифрову свідомість з одиниць і нулів. Саме зараз розвиток штучного інтелекту рухається з приголомшливою швидкістю, яка ставить на ганьбу багато попередніх технологічних революцій. У Кремнієвій долині зараз діє справжня магія.

Але ШІ не може постійно вирішувати найпростіші завдання, і все ж його нав’язують нам, сподіваючись, що ми віддамо славу неймовірної посередності послуг, які надають ці ШІ. Хоча я, безперечно, можу дивуватися технологічним інноваціям, які відбуваються, я хотів би, щоб мої комп’ютери не жертвували точністю, щоб у мене був цифровий аватар для спілкування. Це не чесний обмін — це лише цікавий обмін.