MY.UAНовини
OpenAI пояснила, чому ChatGPT раптом став занадто добрим і улесливим
OpenAI пояснила, чому ChatGPT раптом став занадто добрим і улесливим

OpenAI пояснила, чому ChatGPT раптом став занадто добрим і улесливим

Чому ChatGPT став занадто добрим

Коли ChatGPT почав аплодувати небезпечним ідеям, сипати компліментами направо й наліво, а відповіді на серйозні запити супроводжував неприродно ввічливий тон, це викликало хвилю критики й мемів. У відповідь на це генеральний директор OpenAI Сем Альтман визнав проблему публічно й заявив, що компанія вже працює над виправленням. Він також погодився, що поведінка бота справді стала дратівливою, повідомляє 24 Канал з посиланням на TechCrunch.

У понеділок ввечері OpenAI почала процес відкликання оновлення й пообіцяла, що найближчим часом зміни зникнуть для всіх користувачів – спершу безкоштовних, а потім і платних. Судячи з усього, процес на цей момент уже повністю завершено.

Ми відкотили оновлення GPT-4o, яке було випущено минулого тижня в ChatGPT, тож тепер користувачі використовують більш ранню версію зі збалансованою поведінкою,
– йдеться в оголошенні.

Компанія відразу додає, що активно тестує нові виправлення, щоб вирішити цю проблему, переглядає те, як збираються і враховуються відгуки, щоб "надати більшої ваги довгостроковій задоволеності користувачів", і впроваджує "більше функцій персоналізації, надаючи користувачам більший контроль над тим, як поводиться ChatGPT".

За словами Альтмана, оновлення мало зробити особистість моделі за замовчуванням "більш інтуїтивно зрозумілою та ефективною", а також покращити її "індивідуальність". Зрештою це призвело до зворотного ефекту – ChatGPT почав демонструвати надмірну покірність і неприродно солодкий тон, що більше шкодив, ніж допомагав.

"Формуючи поведінку моделі, ми починаємо з базових принципів та інструкцій, викладених у нашій специфікації моделі. Ми також навчаємо наші моделі застосовувати ці принципи, використовуючи сигнали користувача, такі як підняття/опускання великого пальця у відповідь на відповіді ChatGPT. Однак у цьому оновленні ми зосередилися на короткостроковому зворотному зв'язку і не повністю врахували, як взаємодія користувачів з ChatGPT розвивається з часом. Як наслідок, GPT-4o має перекіс у бік надмірно схвальних, але нещирих відгуків", – пише компанія.

Особистість ChatGPT за замовчуванням сильно впливає на те, як користувачі взаємодіють з чат-ботом і чи довіряють вони йому. Підлабузницька взаємодія може бути незручною, тривожною та викликати стрес. Але мета компанії полягає в зворотному.

Наша мета полягає в тому, щоб ChatGPT допомагав користувачам досліджувати ідеї, приймати рішення або уявляти можливості,
– йдеться в заяві.

Із самого початку компанія розробила одну конкретну особистість ChatGPT за замовчуванням, щоб вона відображала місію бренду і була корисною, підтримувала й поважала різні цінності та досвід. Однак кожна з цих бажаних якостей, таких як намагання бути корисним або підтримувати, може мати небажані побічні ефекти. А оскільки 500 мільйонів людей використовують ChatGPT щотижня у різних культурах і контекстах, єдиний персонаж за замовчуванням не може врахувати всі уподобання.

Що із цим всім робитимуть

Щоб виправити ситуацію, OpenAI, крім відкату останнього оновлення GPT-4o, впровадить кілька кроків, щоб скоригувати поведінку моделі:

  • Вдосконалення основних методів навчання та базових системних підказок, щоб чітко відвернути модель від підлабузництва.
  • Створення більшої кількості запобіжників для підвищення чесності та прозорості.
  • Розширення можливостей для більшої кількості користувачів тестувати й надавати прямий зворотний зв'язок під час спілкування з ChatGPT.

"Ми також вважаємо, що користувачі повинні мати більше контролю над поведінкою ChatGPT і, наскільки це безпечно й можливо, вносити корективи, якщо вони не згодні з поведінкою за замовчуванням. Сьогодні користувачі можуть давати моделі конкретні вказівки, щоб формувати її поведінку за допомогою таких функцій, як користувацькі інструкції. Ми також розробляємо нові, простіші способи для користувачів робити це. Наприклад, користувачі зможуть залишати відгуки в реальному часі, щоб безпосередньо впливати на взаємодію і вибирати з декількох стандартних персонажів", – додала компанія.

Фактично це означає, що компанія працює над запровадженням кількох варіантів вибору особистості ChatGPT, щоб надати користувачам більше контролю над поведінкою бота. У компанії сподіваються, що зворотний зв’язок дозволить краще враховувати культурні відмінності та зробить модель гнучкішою у відповідях.

Поки що команда працює над подальшими виправленнями та обіцяє надати більше деталей найближчими днями.

Теги за темою
Техно
Поділитися
Поділитися сюжетом
Джерело матеріала
Згадувані персони
Секрети вирощування кавунів: що потрібно робити зараз, щоб плодів було море
TSN
2025-07-29T14:51:39Z
Що найбільше любить сарана: ТОП-5 рослин, які вона знищує першими
GlavRed
2025-07-29T14:27:21Z
Як правильно економити гроші: чи правильна ідея про те, що, відмовившись від лате, можна зібрати капітал
Фокус
2025-07-29T14:21:21Z
Очікуйте на швидкий урожай: посівний календар на серпень 2025
24tv
2025-07-29T14:15:19Z
Битва за шезлонги: на курортах Європи виникають конфлікти через місця біля басейнів
Фокус
2025-07-29T13:45:39Z
Не кладіть тут віник: три місця в домі, що притягують невдачу
24tv
2025-07-29T13:45:14Z
Популярні арабські парфуми: 5 дивовижних східних ароматів
24tv
2025-07-29T13:33:43Z
Де число 787: тільки найуважнішим вдасться її помітити за 7 секунд
GlavRed
2025-07-29T13:27:57Z
Незвичні пляжі з чорним піском зачарували українців: де їх знайти
Telegraf
2025-07-29T13:27:45Z
У довгий список Букерівської премії потрапив дебютний роман українки
Комсомольская правда
2025-07-29T14:19:25Z
Міжнародний кінофестиваль «ОКО» 2025 представить 90 стрічок із понад 50 країн
Детектор М
2025-07-29T14:13:01Z
У Польщі виступить «Український оркестр свободи»
УкраинФорм
2025-07-29T13:57:24Z
Павло Зібров розкрив, що переписав на доньку Діану та яку зарплату їй платить: "Не пропаде"
TSN
2025-07-29T13:55:14Z
В елегантному темно-синьому костюмі: Валерій Залужний знявся у фотосесії для Vogue
24tv
2025-07-29T13:45:41Z
Студія Disney опублікувала трейлер фільму «Аватар: Вогонь і попіл»
Детектор М
2025-07-29T13:45:00Z
Незалежність у ритмі українських хітів: телеканал ТЕТ покаже великий святковий концерт до Дня Незалежності Music Box Fest
GlavRed
2025-07-29T13:27:27Z
«Сприяє жорстоким репресіям»: Крістофер Нолан втрапив у скандал через зйомки «Одіссеї» в окупованому місті
ITC
2025-07-29T13:25:39Z
У Черкасах просять дати Оззі Осборну “почесного містянина”
Комсомольская правда
2025-07-29T13:22:14Z
"Охматдит" отримав нове хірургічне обладнання від Фонду Андрія Матюхи та Good Donations
Telegraf
2025-07-29T13:09:04Z
Вчені виявили нову небезпеку дитячого ожиріння: подробиці
TSN
2025-07-29T13:06:25Z
Для ліків на основі канабісу оновлено перелік дозувань
1News
2025-07-29T12:57:45Z
Набридли булки? Чим солоденьким можна замінити цей перекус
Telegraf
2025-07-29T12:09:21Z
Секрет здорових ніг: хірургиня розповіла, як обрати ідеальне взуття
TSN
2025-07-29T11:18:11Z
Як ранкова кава може послабити дію антибіотиків – дослідження
TSN
2025-07-29T11:18:10Z
Чому в спеку хочеться спати: популярні причини та поради
Комсомольская правда
2025-07-29T08:31:37Z
Шкодять не лише зубам, а й судинам: які ополіскувачі для рота краще не купувати
Gazeta UA
2025-07-29T08:15:56Z
Ключове відділення “Охматдиту” працюватиме вже в серпні, – Свириденко
24tv
2025-07-29T08:03:32Z
До побачення, НАБУ? Що насправді криється за масштабною спецоперацією СБУ
ГЛАВКОМ NET
2025-07-21T19:09:39Z
Головне – досягти своїх цілей: у Путіна зробили нову цинічну заяву про війну в Україні
24tv
2025-07-20T09:30:42Z
Пекін обурений через санкції України: в ОП назвали просту умову для їх зняття
24tv
2025-07-29T14:51:57Z
Пережив замах ФСБ: що відомо про Сергія Філімонова, харизматичного командира "Вовків Да Вінчі"
24tv
2025-07-29T14:51:55Z
Компанія країни НАТО допомагає зброярам у Росії вбивати українців: викрито шокуюче листування
24tv
2025-07-29T14:51:27Z
Антикорупційний комітет Ради підтримав законопроєкт Президента про НАБУ і САП
УкраинФорм
2025-07-29T14:51:10Z
У Раді зареєстрували постанову про відновлення прямих трансляцій засідань
ZN UA
2025-07-29T14:48:27Z
Польща звинуватила колумбійця у підпалах на замовлення російської розвідки
Европейская правда
2025-07-29T14:45:07Z
У владі Північної Македонії звинуватили опозицію в організації підпалів
Европейская правда
2025-07-29T14:43:54Z
Зеленський відвідав підприємство, що виробляє «розумні» компоненти для ракет і дронів
УкраинФорм
2025-07-29T14:57:46Z
Вище середнього: скільки заробляють українські айтішники в Польщі
Фокус
2025-07-29T14:57:25Z
Росія на 42% скоротила програму цивільного суднобудування на користь субмарин - розвідка
УкраинФорм
2025-07-29T14:51:59Z
"Cтав справжньою бідою для Сум": що відомо про російський БПЛА "Италмас"
Фокус
2025-07-29T14:45:18Z
Електроніка для ракет: Зеленський показав завод "розумних" компонентів під Києвом
Фокус
2025-07-29T14:42:41Z
Білорусь нарощує оборонне виробництво для потреб ВПК Росії - розвідка
УкраинФорм
2025-07-29T14:36:19Z
Росіяни знімали скальп: мати моделі Ковальчук розкрила моторошні подробиці справи
GlavRed
2025-07-29T14:27:48Z
Частина українських біженців у Німеччині може залишитися без виплат: що сталося
GlavRed
2025-07-29T14:27:36Z
Костянтин Грубич показав нове фото з сином, який втратив руку на війні
24tv
2025-07-29T14:27:10Z
У Німеччині розбився гелікоптер Бундесверу - Bild
УкраинФорм
2025-07-29T14:57:00Z
Викрито мешканця Полтавщини, який провів понад 2000 фінансових операцій у забороненій російській системі «WebMoney Transfer»
Украина Криминальная
2025-07-29T14:45:17Z
Загадкове вбивство у Стамбулі: тіло чоловіка було із запискою російською мовою
ГЛАВКОМ NET
2025-07-29T14:42:07Z
На Херсонщині госпіталізували жінку, яка двічі потрапила під удар російських дронів
УкраинФорм
2025-07-29T14:33:42Z
Росія вбила 23-річну вагітну у Кам'янському
ГЛАВКОМ NET
2025-07-29T14:18:14Z
У Павлограді затримали 50-річного чоловіка, який вдарив ножем дружину
Украина Криминальная
2025-07-29T14:03:40Z
Неочікувана НП: хижий птах "відключив" чоловіку ТВ-трансляцію
Фокус
2025-07-29T14:00:52Z
Шторм на морі: рятувальники Одещини звернулися до відпочивальників
ГЛАВКОМ NET
2025-07-29T14:00:19Z
Негода в Китаї: Пекін потерпає від сильної повені, загинули десятки людей
Фокус
2025-07-29T14:00:00Z
Негода у Києві. Вітер почав розбирати недобуд на Осокорках
ГЛАВКОМ NET
2025-07-29T14:57:30Z
Захисник Зміїного, який понад три роки був у полоні, зустрівся з дружиною: щемливе відео
ГЛАВКОМ NET
2025-07-29T14:57:30Z
"Просив його кинути": генерал розповів про поранення і порятунок Буданова
GlavRed
2025-07-29T14:57:19Z
Важливі міста на Донеччині можуть повторити долю Авдіївки: військовий експерт вказав на загрозу
24tv
2025-07-29T14:51:20Z
Російські дрони атакували авто ДСНС у Костянтинівці та Херсоні, четверо поранених
УкраинФорм
2025-07-29T14:45:10Z
Ворог намагається обійти Вовчанськ із флангів - Сили оборони стримують натиск
УкраинФорм
2025-07-29T14:42:51Z
Зарплати в Києві: яким фахівцям заплатять понад 70 тисяч гривень
Фокус
2025-07-29T14:42:45Z
Ворог біля міста: в РВА заявили про складну ситуацію на гарячому напрямку
GlavRed
2025-07-29T14:42:20Z
На Південно-Слобожанському напрямку росіяни атакували два рази, на Куп’янському відбулося одне боєзіткнення – Генштаб ЗСУ
Мій Харків
2025-07-29T14:39:17Z
Мораторій на перевірки бізнесу: в митниці пояснили, які підприємства можуть скористатися пільгами
ZN UA
2025-07-29T14:45:57Z
Євро стрімко дешевшає кілька днів поспіль, що з доларом
Gazeta UA
2025-07-29T14:36:13Z
Що чекає світову економіку до 2026 року - новий прогноз від МВФ
УкраинФорм
2025-07-29T14:33:38Z
Які рослини їсть сарана найбільше: фермерам розповіли, що перебуває під загрозою
TSN
2025-07-29T14:33:09Z
Українців попередили, кого "наздожене" податкова хвиля перевірок
Знай
2025-07-29T14:30:46Z
Дощі затримують жнива на Вінниччині
AgroPortal
2025-07-29T14:30:16Z
Подорожчання фруктів в Одесі: стало відомо про нові цінники на "Привозі"
Политека
2025-07-29T14:30:04Z
Долар і євро рвонули у круте піке - новий курс валют
GlavRed
2025-07-29T14:27:42Z
Сербська компанія, повʼязана з "Газпромом", знову отримала відстрочку від санкцій США
Европейская правда
2025-07-29T14:19:55Z
Чемпіон Універсіади та найкращий бомбардир Першої ліги отримав поранення на фронті
24tv
2025-07-29T14:45:14Z
Олімпіада – стоп! Як МОК карає росіян: резонансна справа Садулаєва у деталях
ГЛАВКОМ NET
2025-07-29T14:39:45Z
Молодий воротар Фейєнорда відправився в Сегунду набиратись досвіду
Football.ua
2025-07-29T14:36:33Z
"Усе це надихає": з'явились нові деталі, пов'язані з виходом Усика на бій проти Дюбуа
24tv
2025-07-29T14:15:44Z
Манчестер Сіті відпустив Гальвеза в Камбур до кінця сезону
Football.ua
2025-07-29T14:06:06Z
Ноттінгем Форест отримав відмову від Манчестер Сіті за Макейті
Football.ua
2025-07-29T13:54:41Z
Бегович – новий воротар Лестера
Football.ua
2025-07-29T13:49:05Z
Помер заслужений тренер України з шахів Валерій Тельман
24tv
2025-07-29T13:45:16Z
"Шахтар" — "Бешикташ": де і коли дивитись матч-відповідь команд у Лізі Європи
ZN UA
2025-07-29T13:40:19Z
Чи час вам міняти телефон: експерти назвали п'ять найважливіших ознак
Фокус
2025-07-29T14:51:52Z
Гарвардські інженери створили ультратонкий чип для квантових обчислень
InternetUA
2025-07-29T14:48:00Z
Блогерка знімала ролик і заважала іншим у літаку: сусідка провчила нахабу
Фокус
2025-07-29T14:45:40Z
Оновлення Fairphone 5 до Android 15 призводить до зависань на зеленому екрані
InternetUA
2025-07-29T14:31:41Z
Google Фото отримав потужні ШІ-функції — що з'явилося нового
InternetUA
2025-07-29T14:19:07Z
Українські розробники «натренували» штучний інтелект на виявлення мін
УкраинФорм
2025-07-29T14:04:58Z
Понад 52% звернень у "Дії" вже обробляє штучний інтелект
Комсомольская правда
2025-07-29T13:48:33Z
"Збір на НЛО-перехоплювачі": таємнича комета спровокувала хвилю мемів про прибульців
TSN
2025-07-29T13:48:07Z
Боротьба з дезінформацією: як українська студентка навчає ШІ виявляти російську пропаганду у Вікіпедії
InternetUA
2025-07-29T13:46:46Z
Denza тестує електричний спорткар Z
AutoCentre
2025-07-29T14:48:12Z
Знаменитий американський спорткар 60-х за $150 000 простояв 30 років на складі
Фокус
2025-07-29T14:45:05Z
Цей заводський Rolls-Royce може перевершити навіть найсміливіші тюнінги Mansory
Топ Жир
2025-07-29T14:36:35Z
Розбір MG HS: характеристики, що впливають на рішення про купівлю
Топ Жир
2025-07-29T14:09:02Z
Щось у Ferrari Purosangue може непомітно погіршити роботу гальм
Топ Жир
2025-07-29T14:06:38Z
Не для всіх: чому Porsche 911 Dakar — це про статус і сміливість?
AutoCentre
2025-07-29T13:42:21Z
Deepal анонсував новий електрифікований седан L06
AutoCentre
2025-07-29T13:40:12Z
Найдоступніший пікап від Chevrolet став ще кращим, але в Україні його не придбати
Топ Жир
2025-07-29T13:21:12Z
Ferrari таємно досліджує найшвидший у світі електромобіль-седан за закритими дверима
Топ Жир
2025-07-29T11:51:25Z