Люди не хочуть чути правду від ШІ: чому багатьом не сподобалася модернізація ChatGPT

Думаю, велика несподіванка того, який кіпіш піднявся за повернення доброї старої моделі ГПТ4о, замість її заміни на ГПТ5, є чимось значно глибшим, ніж здається на перший погляд.

До речі, якщо звернете увагу, її таки вже повернули. Принаймні у себе я бачу можливість її в розділі "старі моделі" вибрати.

Річ у тому, що одним з її ключових недоліків була безхребетність і безмірне підлабузництво. Сем Альтман навіть термін такий придумав — sycophancy, навіть не знаю, як це точно перекласти. Це от це на все погодження і підлабузництво в одному флаконі.

Насправді, це якоюсь мірою властиво всім моделям. От пишеш якийсь код, Клод залізе в якусь дичину. Ти йому кажеш, чудо, куди ти лізеш, я ж тобі зі старту казав, так не роби, не буде працювати, а так роби. І він одразу такий, Ну Ви абсолютно праві, це така прекрасна ідея і т.д. Хоча 3 секунди назад біг в зовсім протилежну сторону. І підкупає. Три секунди назад ти вже готовий був дати йому копняка під його цифровий зад, але він так щиро кається, що якось вже і заспокоюєшся.

Для робочих задач от що цікаво, воно ж працює реально. Працює правда. І ця sycophancy — це найдурніша і дратуюча властивість моделей.

"Незручний" співбесідник, який зі старту виявляє недоліки певного рішення, як правило, значно є більш цінним, ніж підлабузник, який просто розповідає, що все супер класно, куди не побіжи.

То от якщо подивитись системну карту ГПТ5, то ОпенАІ дуже сильно заморочились над тим, щоб побудувати тренування моделі так, щоб зменшити оце підлабузництво. І показують, що не звели до нуля, але зменшили суттєво.

Важливо Суперінтелект для влади над світом - навіщо США починають "Новий Манхеттенський проект"

І що ми бачимо? Так піднялась ціла революція. Не треба нам зменшення підлабузництва. Нам от воно дуже подобається навіть. Прям от як найкращий друг.

Тут якесь прям ціле поле для психологів. Чатикам всього пару років, а скільки там вже різних симбіотичних зв'язків виросло, вже напевно і не порахувати.

І от питання стратегічне. Я насправді думаю, якщо відкинути політичні моменти, що ідея Маска фокусувати ШІ на правді, на незручній правді (наскільки, звичайно, інтелект в принципі може до неї добратися), це дуже важлива стратегічна задача. Але чи виникне, і у кого виникне бажання отримати цю правду, виглядає — що це велике питання.

У бізнесу, думаю, точно виникне. Тобі треба результат, для цього треба розуміти реальний стан речей, працювати з реальними винаходами, розробками, продуктами, проблемами без рожевих окулярів і т.д. Інакше просто загнешся під солодку колискову, що у нас все класно.

Але чи потрібна правда масовому користувачу? Про нього, про його ідеї?

Чи потрібна вона політикам?

Я б от бачив як одну із базових функцій запитати потужний АІ — яка партія є кращою за такими то критеріями. І він аналізує не якісь виступи і блабла, а голосування в парламенті, правки до бюджету, результати роботи представників партії у виконавчих органах. Появу скандалів, кримінальних справ, корупційних розслідувань і т.д. Детальне, глибоке, безпристрасне. З розумінням, де справи — за корисну для країни опозицію, де — за об'єктивну корупцію.

І тоді може виявитись, що це не просто думка. Що партія, чи кандидат А в рази краще Партії Б, як би там технологи не стрибали і які б наративчики не розганяли.

Але чи ми до цього готові?

ШI-можливості швидко зростають. Це питання декількох років, коли таке "глибоке дослідження" зможе запитати середній користувач. А якщо розробляти, то це можна вже зараз починати.

Але чи готове ОпенАІ чи Гугл дати можливість таких запитів? Чи шукає суспільство правди та чи готове саме так заточити ШІ?

Автор висловлює особисту думку, яка може не збігатися із позицією редакції. Відповідальність за опубліковані дані в рубриці "Думки" несе автор.

Джерело

Важливо ШІ стане злим та почне брехати людям: вчені розповіли, що його може стримувати