Штучний інтелект не мислить – він лише вгадує

Великі мовні моделі не мислять, а просто вгадують наступне слово. Це пояснює помилки, галюцинації й упередженість у відповідях.

Сучасні моделі штучного інтелекту засновані на статистичному передбаченні, а не на справжньому розумінні, що породжує фундаментальні проблеми у їх функціонуванні.

Штучний інтелект, попри його здатність імітувати людську мову, не мислить у звичному нам розумінні. Він працює за принципом статистичного передбачення, обробляючи величезні обсяги даних. Механізми його навчання пояснюють більшість обмежень цих технологій. Розуміння цих механізмів критично важливе для безпечного впровадження ШІ.

Як навчаються великі мовні моделі

Процес навчання ШІ суттєво відрізняється від людського пізнання. Великі мовні моделі (ВММ) розбивають текст на дрібні одиниці, які називаються “токенами”. Ці токени можуть бути словами або їх частинами, які модель аналізує послідовно. Як зазначає дослідник Атарва Госаві: “Моделі не мають справу з повними ідеями – лише з ймовірностями для кожного токена”.

Основу навчання ВММ складають мільярди вагових коефіцієнтів. Їх можна уявити як регулятори, що визначають зв’язки між токенами. Протягом навчання модель корегує ці ваги за допомогою “функції втрат”. Вона оцінює точність прогнозу та зменшує похибки в наступних ітераціях.

Наприклад, якщо запитати про столицю Франції, модель не “знає” відповідь. Вона визначає, що після цього запитання найчастіше зустрічалося слово “Париж”. Це принципова відмінність від людського знання та розуміння. ШІ розпізнає закономірності в тексті без розуміння їхнього змісту чи контексту.

Ключові проблеми сучасних моделей ШІ

Статистичний характер роботи ВММ породжує серйозні проблеми. Однією з найпомітніших є галюцинації – коли модель впевнено генерує неправдиву інформацію. Це відбувається через відсутність справжнього розуміння та оцінки достовірності. Модель лише відтворює шаблони, які вона спостерігала під час навчання.

Упередженість становить іншу серйозну проблему сучасних ВММ. Моделі навчаються на величезних масивах інтернет-даних, які містять усі людські упередження. Неможливість відокремити факти від суб’єктивних оцінок обмежує надійність таких систем. Як підкреслюють дослідники: “Упередженість не є навмисною, але вона залежить від навчальних даних”.

Проблема дрейфу моделі виникає, коли реальність змінюється швидше, ніж оновлюються дані ШІ. Уявіть модель, навчену в 2022 році прогнозувати споживчі вподобання. Після економічних змін у 2023 році її прогнози стануть менш точними. Знання моделі “застигають” у часі навчання, що обмежує їх довгострокову цінність.

Складнощі вирішення проблем ШІ

Виправлення недоліків сучасних моделей ШІ вимагає значних ресурсів. Перенавчання моделей з новими даними потребує величезних обчислювальних потужностей. Таке навчання моделі рівня GPT-4 триває тижні або місяці на спеціалізованому обладнанні. Фінансові витрати часто перевищують потенційні переваги від усунення упереджень.

Ефект “чорної скриньки” ускладнює виправлення помилок. Рішення моделі ґрунтуються на мільярдах взаємопов’язаних вагових коефіцієнтів. Навіть розробники не можуть точно визначити, чому модель дає конкретну відповідь. Відсутність прозорості унеможливлює точкове виправлення проблемної поведінки.

Навчання з підкріпленням за відгуками людей (RLHF) частково пом’якшує ці проблеми. Люди-рецензенти оцінюють вихідні дані, навчаючи модель правильній поведінці. Проте RLHF залишається трудомістким, дорогим і обмеженим людським масштабом. Воно не здатне покрити всі можливі відповіді, які може згенерувати модель.

Сучасні підходи до підвищення безпеки ШІ

Дослідники та компанії активно працюють над підвищенням безпеки моделей ШІ. Їхні зусилля охоплюють алгоритмічні інновації та розробку нормативних рамок. Узгодження моделей з людськими цінностями стає пріоритетом для провідних розробників.

Проект Superalignment від OpenAI зосереджений на створенні систем, які враховують людські наміри. Команда працює над моделями, здатними міркувати про цінності та безпеку без постійного нагляду. Anthropic розробляє “конституційний ШІ” – методику, коли модель дотримується визначених принципів замість покладання лише на людський зворотний зв’язок.

З регуляторної точки зору, Закон ЄС про ШІ встановлює рамки для безпечного використання технологій. Він класифікує системи за рівнем ризику та запроваджує суворіші вимоги до додатків високого ризику. Як зазначають експерти: “Мета – не просто краща продуктивність, а безпечна продуктивність, яка відображає людські цінності”.

Академічні лабораторії, включно зі Stanford CRFM, MIT CSAIL та Інститутом майбутнього людства в Оксфорді, вивчають підходи до зменшення упередженості. Їхні дослідження формують галузеві стандарти та політичні рішення у сфері ШІ.

Висновок: роль людського нагляду

Незважаючи на вражаючі можливості, ВММ залишаються всього лише інструментами прогнозування. Вони не розуміють контексту, значення чи наслідків. Людський нагляд залишається критично важливим для забезпечення точності та етичності використання ШІ.

Користувачі повинні пам’ятати про обмеження цих систем. Можна використовувати ШІ для узагальнення документів або генерації коду. Проте коли важлива точність, людина має перевіряти результати. Відповідальність за помилки несе користувач, а не модель.

Розуміння механізмів навчання ШІ допомагає реалістично оцінювати можливості цих технологій. Усвідомлення обмежень – перший крок до безпечного та ефективного використання штучного інтелекту для розширення людських можливостей.