MY.UAНовости
Демонстрирует опасные характеристики: один из "отцов" ИИ раскритиковал многомиллиардную гонку по его разработке
Демонстрирует опасные характеристики: один из "отцов" ИИ раскритиковал многомиллиардную гонку по его разработке

Демонстрирует опасные характеристики: один из "отцов" ИИ раскритиковал многомиллиардную гонку по его разработке

Демонстрирует опасные характеристики: один из "отцов" ИИ раскритиковал многомиллиардную гонку по его разработке

Йошуа Бенджио объяснил, в каком случае искусственный интеллект может угрожать человечеству.

Один из "отцов" искусственного интеллекта Йошуа Бенжио раскритиковал многомиллиардную гонку за разработку передовых технологий. В частности, в интервью Financial Times он заявил, что последние модели ИИ демонстрируют опасные характеристики, как, например, обман пользователей.

Йошуа Бенджио - ученый из Канады. Его работы стали основой технологий, используемых ведущими группами по разработке ИИ, такими как OpenAI и Google.

"К сожалению, между ведущими лабораториями существуют очень конкурентные гонки, которые заставляют их сосредоточиться на возможности сделать ИИ все более интеллектуальным, но не обязательно уделять достаточное внимание и инвестировать в исследования безопасности", - говорит Бенджио.

Свои предостережения он высказал изданию во время запуска новой некоммерческой организации под названием LawZero. По словам Бенджио, группа сосредоточится на создании более безопасных систем. Ученый пообещал "изолировать наши исследования от коммерческого давления".

Сейчас LawZero собрала почти 30 миллионов долларов благотворительных взносов от доноров, среди которых инженер-основатель Skype Яан Таллинн, благотворительная инициатива бывшего главы Google Эрика Шмидта, а также Open Philanthropy и Future of Life Institute. Многие спонсоры Бенджио поддерживают движение "эффективного альтруизма", сторонники которого склонны сосредотачиваться на катастрофических рисках, связанных с моделями искусственного интеллекта. Критики утверждают, что движение делает акцент на гипотетических сценариях, игнорируя текущий вред, такой как предвзятость и неточность.

.

По словам Бенджио, его некоммерческая группа была основана в ответ на доказательства, что современные ведущие модели развивают опасные возможности. Это включает "доказательства обмана, мошенничества, лжи и самосохранения". При этом в течение последних шести месяцев количество таких доказательств возросло.

Модель Claude Opus от Anthropic шантажировала инженеров в вымышленном сценарии, где она рисковала быть замененной другой системой. Исследование тестировщиков ИИ Palisade в прошлом месяце показало, что модель o3 от OpenAI отказалась выполнять явные инструкции об отключении.

Бенджио сказал, что такие инциденты "очень пугают, потому что мы не хотим создавать конкурентов людям на этой планете, особенно если они умнее нас".

"Сейчас это контролируемые эксперименты, [но] я опасаюсь, что в будущем следующая версия может быть стратегически достаточно умной, чтобы увидеть нас издалека и победить нас с помощью обмана, которого мы не предвидим. Поэтому я считаю, что сейчас мы играем с огнем", - добавил Бенджио.

По словам ученого, способность систем помогать в создании "чрезвычайно опасного биологического оружия" может стать реальностью уже в следующем году. В частности, компания LawZero, базирующаяся в Монреале, имеет 15 сотрудников и планирует нанять больше технических специалистов для создания нового поколения систем искусственного интеллекта, предназначенных для обеспечения безопасности.

Бенджио, который занимает должность профессора информатики в Университете Монреаля, оставит должность научного директора Mila, Института искусственного интеллекта Квебека, чтобы сосредоточиться на новой организации. Ее цель - разработать систему искусственного интеллекта, которая будет давать правдивые ответы на основе прозрачного рассуждения, а не будет обучена угождать пользователю. Также эта система будет предоставлять надежную оценку того, является ли результат хорошим или безопасным. Бенджио надеется создать модель, которая сможет контролировать и совершенствовать существующие предложения ведущих групп искусственного интеллекта, предотвращая их действия, противоречащие интересам человека.

"Худший сценарий - это вымирание человечества. Если мы создадим искусственный интеллект, который будет умнее нас, не будет согласован с нами и конкурировать с нами, то нам, по сути, конец", - заявил ученый.

Решение Бенджио о создании LawZero совпадает с намерением OpenAI отойти от своих благотворительных корней и превратиться в коммерческую компанию. Этот шаг вызвал беспокойство экспертов по искусственному интеллекту и вызвал судебный иск от соучредителя Илона Маска, который пытается заблокировать этот процесс.

Критики говорят, что OpenAI была основана для того, чтобы обеспечить развитие искусственного интеллекта на благо человечества, а новая структура делает невозможным юридическую защиту, если компания предоставит приоритет прибыли над этой целью. OpenAI утверждает, что ей нужно привлечь капитал по более традиционной структуре, чтобы конкурировать в этом секторе, при этом ее более широкая миссия остается центральной.

.

По словам Бенджио, он не уверен в том, что OpenAI будет придерживаться своей миссии. Ученый подчеркнул, что некоммерческие организации не имеют "неподходящих стимулов, которые есть в современной структуре компаний".

"Чтобы быстро расти, нужно убедить людей инвестировать большие деньги, а они хотят видеть отдачу от своих вложений. Так работает наша рыночная система", - добавил Бенджио.

Ранее сообщалось, что уже этим летом компания OpenAI может представить следующее поколение своей флагманской языковой модели - ChatGPT-5. Хотя официальная дата запуска пока не подтверждена, многочисленные источники, включая инсайдерские сообщения и хронологию предыдущих релизов, указывают на возможный выход в июле 2025 года. По оценкам аналитиков, новая модель имеет потенциал существенно изменить работу искусственного интеллекта, сделав еще один шаг к технологии, приближающейся к уровню AGI, так называемого общего ИИ.

Поделиться
Поделиться сюжетом
Источник материала
"Большая часть ляжет в могилы": Арестович шокировал новым прогнозом будущего Украины
Comments UA
2025-06-17T20:00:36Z
Путин готовится значительно усилить ракетный террор Украины: названы 5 наиболее опасных городов
Comments UA
2025-06-24T14:00:47Z
"Целых двое суток", - Путин "поддал" и проговорился о проблемах со здоровьем. ВИДЕО
Новости Украины
2025-06-15T15:36:59Z
Воевать отправят всех: в Украине жестко взялись за уклонистов – к чему готовиться
Знай
2025-06-28T02:30:53Z
Зеленский назначил нового судью и разблокировал работу Конституционного суда
Апостроф
2025-06-28T08:51:35Z
WP: Иран готовил покушения на Дональда Трампа и Майка Помпео
Лига
2025-06-28T08:48:15Z
Зеленский ответил Путину о встрече
Comments UA
2025-06-19T21:00:24Z
Хороших новостей ждать не стоит: эксперты назвали три сценария завершения войны в Украине
Знай
2025-06-22T20:30:05Z
Путин самоуверенно заявил, что Запад "скоро сдохнет"
TSN
2025-06-27T16:12:24Z
Почему нельзя спать с открытыми окнами: неожиданный ответ
Gazeta UA
2025-06-28T02:21:22Z
Как узнать, что у человека порча: основные признаки и советы
Comments UA
2025-06-24T06:15:10Z
Опасное заболевание: как уберечься от дифтерии
ZN UA
2025-06-27T22:24:41Z
Эффективный способ выспаться: ученые назвали лучшую позу для сна
Фокус
2025-06-21T07:15:50Z
В Украине просят запретить препарат, который стал проблемой для раненых военных
ZN UA
2025-06-28T08:43:13Z
Эти фрукты и ягоды обязательно употреблять летом: как влияют на организм
Comments UA
2025-06-28T08:09:11Z
Завтрак, который контролирует уровень холестерина: о каких продуктах идет речь
Gazeta UA
2025-06-27T08:27:43Z
На чем жарить: диетолог назвала масла, которые подходят для этого и которых надо избегать
UAToday
2025-06-23T09:00:41Z
Важная поддержка: как помочь человеку, у которого истерика
ZN UA
2025-06-17T17:33:54Z
Лунный календарь стрижек на июль 2025 года: благоприятные даты для смены имиджа
TSN
2025-06-28T08:33:13Z
Как американцы моют посуду: почему в США не используют губку
UAToday
2025-06-27T10:06:26Z
Опасная окрошка: 3 признака, при которых ее нельзя есть, даже если вы ее утром приготовили
Знай
2025-06-17T16:51:59Z
Зачем эксперты советуют брать с собой салфетку, когда идете покупать клубнику на рынок: хитрый трюк
TSN
2025-06-26T15:36:49Z
Навлечете беду в свой дом: вещи, которые никогда нельзя делать ночью
Знай
2025-06-28T08:51:32Z
Белые пляжи, настоящая пицца и хрустальное море: топ курортов Италии, куда стоит поехать
Фокус
2025-06-28T07:00:07Z
Куриные яйца могут вас убить: 8 бытовых ошибок с ними, которые вредят здоровью
Знай
2025-06-26T02:51:38Z
Популярный курорт Украины атаковали насекомые. В сети показали впечатляющие кадры
Telegraf
2025-06-24T10:36:53Z
Гороскоп на 24 июня 2025 года по картам Таро для всех знаков зодиака
UAToday
2025-06-23T19:45:32Z
Дополнительные 2000 грн к пенсии: кто может получить
Знай
2025-06-27T18:36:38Z
Россия захватила второе из четырех месторождений лития в Украине – Le Figaro
ZN UA
2025-06-27T11:24:21Z
Не будет ни света, ни газа: украинцы могут остаться без благ цивилизации
Знай
2025-06-15T15:36:16Z
Готовьте до 2000 грн: "Нафтогаз" призвал украинцев установить важный прибор
Знай
2025-06-15T16:21:57Z
Что будет с долларом и евро в июле — прогноз банкира
TSN
2025-06-28T08:18:54Z
Банки могут заблокировать карту — в чём причина и как этого избежать
Апостроф
2025-06-28T07:57:26Z
Производители предупредили украинцев о значительном росте цен на хлеб
UAToday
2025-06-23T19:45:16Z
Минимальная пенсия: может ли вырасти с 1 июля
ZN UA
2025-06-27T03:43:14Z
Цены приятно удивляют: сколько стоят фрукты на рынке в Одессе
Telegraf
2025-06-14T12:54:59Z
Россия пытается взять большой город в полукольцо: есть ли успехи у солдат Путина
GlavRed
2025-06-28T07:27:54Z
Еще один китаец попал в плен ВСУ: что рассказывает наемник об армии РФ
TSN
2025-06-27T16:33:46Z
Льготы аннулируют: для кого проезд в общественном транспорте станет платным
Знай
2025-06-28T02:12:25Z
Ситуация на фронте сложная: где оккупанты перешли к мясным штурмам
Comments UA
2025-06-28T06:54:13Z
Синоптики дали прогноз погоды на сегодня 28 июня в Украине
UAToday
2025-06-28T08:45:59Z
Генштаб: по состоянию на 28 июня общие потери вражеской армии в личном составе составили 1 017 720 солдат
UAToday
2025-06-28T08:45:01Z
Не хватит ни техники, ни людей: Коваленко оценил "размах" российского наступления
Новости Украины
2025-06-15T17:33:39Z
В Одессе БПЛА атаковал многоэтажный дом – соцсети
Корреспондент
2025-06-27T21:36:42Z
Українські аграрії розпочали збір врожаю
AgroNews
2025-06-28T07:07:52Z
Дополнительные выплаты от ООН: успейте оформить до конца июля
Знай
2025-06-28T08:21:47Z
Светлана Павелецкая рассказала, нашла ли общий язык с детьми Дмитрия Кулебы
Комсомольская правда
2025-06-23T06:52:55Z
24 июня большой церковный праздник: что можно и нельзя делать сегодня
Comments UA
2025-06-24T05:33:57Z
"Здесь должны были спать дети": появились кадры разрушенной комнаты детей Тополи
GlavRed
2025-06-23T06:40:50Z
Что нужно отпраздновать украинцам 28 июня 2025: важный праздник и народные приметы
UAToday
2025-06-28T08:45:43Z
28 июня: церковный праздник сегодня, что важно успеть сделать в канун Петра и Павла
UAToday
2025-06-28T08:45:42Z
Конец европейского гостеприимства: мигрантов за границей начнут фильтровать по новым правилам – кого развернут домой
Знай
2025-06-15T16:06:20Z
Почему нельзя отказываться купаться 23 июня и что нужно выпрашивать сегодня: приметы и запреты на Агрипины
Знай
2025-06-23T04:03:11Z
Квартира-гроб: как выглядит жилье в Гонконге за $250 в месяц
Фокус
2025-06-23T17:06:07Z
В Харькове задержанного оставили умирать в камере - ГБР расследует. ВИДЕО
Новости Украины
2025-06-27T10:18:49Z
На Закарпатье пограничник сбежал в Словакию, где попросил убежище
Корреспондент
2025-06-28T02:48:46Z
ОГП: В Одессе нашли убитой 7-летнюю девочку. Задержан 31-летний сосед – видео
Лига
2025-06-19T20:18:17Z
В Ивано-Франковской области нашли в лесу 5-летнего мальчика спустя трое суток поисков
Комсомольская правда
2025-06-21T07:57:23Z
Российский удар по Одессе забрал жизни супругов: что известно о погибших
TSN
2025-06-28T08:48:12Z
Двое погибших и много раненых – прокуратура показала последствия удара по многоэтажке в Одессе
Апостроф
2025-06-28T08:21:49Z
Атака на Киевщину: разрушен отель с клиникой, есть погибшая и пострадавшие
Корреспондент
2025-06-23T03:15:35Z
Супруги из Украины хотели перевезти в Румынию 1,4 миллиона долларов США
Апостроф
2025-06-15T17:48:37Z
Девятая жертва российской атаки на Киев - 11-летняя девочка
Корреспондент
2025-06-23T16:55:02Z
Фигурка рыбки на автомобиле - что означает и зачем наклеивают - Главред
Gazeta UA
2025-06-15T04:18:53Z
Штрафуют даже за листик из дерева: водителям нужно внимательнее присмотреться к номерам
Знай
2025-06-14T18:51:46Z
Франция требует от Tesla прекратить рекламировать автомобили как беспилотные и угрожает штрафом
Европейская правда
2025-06-24T15:54:56Z
BMW не планирует отказываться от двигателей внутреннего сгорания
Корреспондент
2025-06-27T17:45:07Z
Nissan представила обновленную гибридную технологию e-POWER
Корреспондент
2025-06-27T17:39:49Z
Маленький Prado: раскрыты подробности самого дешевого внедорожника Toyota
Фокус
2025-06-27T12:51:04Z
Надежные и недорогие: 5 брендов автомобилей, заставляющих надолго забыть о СТО
Знай
2025-06-27T11:51:00Z
Тест-драйв Opel Mokka: ставка на стиль и эмоции
Фокус
2025-06-27T11:45:02Z
Украинцы стали покупать меньше люксовых авто: какие марки и модели пользуются спросом
Фокус
2025-06-27T09:51:28Z
Камалия рассекретила, что стало последней каплей в ее браке с Захуром: "Умоляла год"
TSN
2025-06-27T09:21:29Z
Камалия шокировала, какие зависимости помогают ей успокаиваться: "Ужасная привычка"
TSN
2025-06-28T05:03:18Z
"Быстро растет и убивает": Камалия поделилась историей борьбы с раком груди
Апостроф
2025-06-27T15:51:58Z
В России умерла звезда фильма Ирония судьбы
Корреспондент
2025-06-21T09:09:23Z
Леся Никитюк ответила на упреки о суррогатном материнстве и показалась с женихом в новом статусе
TSN
2025-06-28T08:33:46Z
Ольга Фреймут восхитила фото с 8-летней дочерью и растрогала публичным обращением к ней
TSN
2025-06-28T07:51:33Z
Звезда Лиги смеха вернулась после кровоизлияния в мозг
Корреспондент
2025-06-24T08:24:02Z
"Все как и должно быть": бывшая жена Остапчука рассказала, как поделили дом после развода
Апостроф
2025-06-27T12:00:17Z
В Киеве открылась выставка "Херсон. Степь держит": чествование Юга, памяти и силы
ZN UA
2025-06-28T06:03:16Z
Литиевая батарея будет служить рекордно долго: что придумали ученые
Фокус
2025-06-19T08:42:36Z
Лицензия на азартные игры от Мальты: преимущества и недостатки
Comments UA
2025-06-15T15:30:27Z
Клиенты "Киевстар" возмущены: вместо обещанной скидки сняли полную плату
Знай
2025-06-15T03:21:22Z
Little Nightmares 3 получила дату релиза: вдобавок хороший бонус
Знай
2025-06-28T07:51:34Z
Гениально и просто: женщина придумала интересный способ летать без переплаты за багаж
Фокус
2025-06-28T07:00:55Z
Озвучено оновлені ціни на ячмінь нового врожаю
AgroNews
2025-06-28T05:00:30Z
Финская армия получит спутники собственного производства для разведки в любую погоду
Gazeta UA
2025-06-28T03:24:44Z
Diablo IV готовит грандиозную "чистку" Санктуария: новый сезон "Грехи Хорадримов" уже 1 июля
Знай
2025-06-28T02:51:25Z
Если вы вдруг переживали: Grand Theft Auto VI выйдет на Xbox Series S одновременно с другими версиями — без задержек
GameMag
2025-06-28T00:09:19Z
Пакьяо возвращается: легенда бокса объяснил мотивацию
Корреспондент
2025-06-27T08:18:01Z
Паркер прокомментировал спорный удар Дюбуа, нанесенный Усику в их поединке
Корреспондент
2025-06-14T10:33:36Z
Саудовский гранд предлагает Эрнандесу феноменальный контракт
Корреспондент
2025-06-23T15:45:30Z
Внимание к Симеоне: новый клуб Серии А присматривает игрока атаки
Корреспондент
2025-06-15T17:42:27Z
Для меня это был долгий путь: Уайлдер оценил свое успешное возвращение
Корреспондент
2025-06-28T08:48:38Z
Уайлдер успешно вернулся в ринг после годичного перерыва
Корреспондент
2025-06-28T06:18:38Z
"Шахтер" продал легионера в нидерландский клуб
ZN UA
2025-06-27T21:42:59Z
Белорусские футзалисты прошли на Евро-2026: УЕФА меняет хозяев
Корреспондент
2025-06-27T18:48:32Z
Украинские теннисистки узнали свои пары и соперниц на Уимблдоне-2025
Корреспондент
2025-06-27T18:18:47Z