MY.UAНовости
Демонстрирует опасные характеристики: один из "отцов" ИИ раскритиковал многомиллиардную гонку по его разработке
Демонстрирует опасные характеристики: один из "отцов" ИИ раскритиковал многомиллиардную гонку по его разработке

Демонстрирует опасные характеристики: один из "отцов" ИИ раскритиковал многомиллиардную гонку по его разработке

Демонстрирует опасные характеристики: один из "отцов" ИИ раскритиковал многомиллиардную гонку по его разработке

Йошуа Бенджио объяснил, в каком случае искусственный интеллект может угрожать человечеству.

Один из "отцов" искусственного интеллекта Йошуа Бенжио раскритиковал многомиллиардную гонку за разработку передовых технологий. В частности, в интервью Financial Times он заявил, что последние модели ИИ демонстрируют опасные характеристики, как, например, обман пользователей.

Йошуа Бенджио - ученый из Канады. Его работы стали основой технологий, используемых ведущими группами по разработке ИИ, такими как OpenAI и Google.

"К сожалению, между ведущими лабораториями существуют очень конкурентные гонки, которые заставляют их сосредоточиться на возможности сделать ИИ все более интеллектуальным, но не обязательно уделять достаточное внимание и инвестировать в исследования безопасности", - говорит Бенджио.

Свои предостережения он высказал изданию во время запуска новой некоммерческой организации под названием LawZero. По словам Бенджио, группа сосредоточится на создании более безопасных систем. Ученый пообещал "изолировать наши исследования от коммерческого давления".

Сейчас LawZero собрала почти 30 миллионов долларов благотворительных взносов от доноров, среди которых инженер-основатель Skype Яан Таллинн, благотворительная инициатива бывшего главы Google Эрика Шмидта, а также Open Philanthropy и Future of Life Institute. Многие спонсоры Бенджио поддерживают движение "эффективного альтруизма", сторонники которого склонны сосредотачиваться на катастрофических рисках, связанных с моделями искусственного интеллекта. Критики утверждают, что движение делает акцент на гипотетических сценариях, игнорируя текущий вред, такой как предвзятость и неточность.

.

По словам Бенджио, его некоммерческая группа была основана в ответ на доказательства, что современные ведущие модели развивают опасные возможности. Это включает "доказательства обмана, мошенничества, лжи и самосохранения". При этом в течение последних шести месяцев количество таких доказательств возросло.

Модель Claude Opus от Anthropic шантажировала инженеров в вымышленном сценарии, где она рисковала быть замененной другой системой. Исследование тестировщиков ИИ Palisade в прошлом месяце показало, что модель o3 от OpenAI отказалась выполнять явные инструкции об отключении.

Бенджио сказал, что такие инциденты "очень пугают, потому что мы не хотим создавать конкурентов людям на этой планете, особенно если они умнее нас".

"Сейчас это контролируемые эксперименты, [но] я опасаюсь, что в будущем следующая версия может быть стратегически достаточно умной, чтобы увидеть нас издалека и победить нас с помощью обмана, которого мы не предвидим. Поэтому я считаю, что сейчас мы играем с огнем", - добавил Бенджио.

По словам ученого, способность систем помогать в создании "чрезвычайно опасного биологического оружия" может стать реальностью уже в следующем году. В частности, компания LawZero, базирующаяся в Монреале, имеет 15 сотрудников и планирует нанять больше технических специалистов для создания нового поколения систем искусственного интеллекта, предназначенных для обеспечения безопасности.

Бенджио, который занимает должность профессора информатики в Университете Монреаля, оставит должность научного директора Mila, Института искусственного интеллекта Квебека, чтобы сосредоточиться на новой организации. Ее цель - разработать систему искусственного интеллекта, которая будет давать правдивые ответы на основе прозрачного рассуждения, а не будет обучена угождать пользователю. Также эта система будет предоставлять надежную оценку того, является ли результат хорошим или безопасным. Бенджио надеется создать модель, которая сможет контролировать и совершенствовать существующие предложения ведущих групп искусственного интеллекта, предотвращая их действия, противоречащие интересам человека.

"Худший сценарий - это вымирание человечества. Если мы создадим искусственный интеллект, который будет умнее нас, не будет согласован с нами и конкурировать с нами, то нам, по сути, конец", - заявил ученый.

Решение Бенджио о создании LawZero совпадает с намерением OpenAI отойти от своих благотворительных корней и превратиться в коммерческую компанию. Этот шаг вызвал беспокойство экспертов по искусственному интеллекту и вызвал судебный иск от соучредителя Илона Маска, который пытается заблокировать этот процесс.

Критики говорят, что OpenAI была основана для того, чтобы обеспечить развитие искусственного интеллекта на благо человечества, а новая структура делает невозможным юридическую защиту, если компания предоставит приоритет прибыли над этой целью. OpenAI утверждает, что ей нужно привлечь капитал по более традиционной структуре, чтобы конкурировать в этом секторе, при этом ее более широкая миссия остается центральной.

.

По словам Бенджио, он не уверен в том, что OpenAI будет придерживаться своей миссии. Ученый подчеркнул, что некоммерческие организации не имеют "неподходящих стимулов, которые есть в современной структуре компаний".

"Чтобы быстро расти, нужно убедить людей инвестировать большие деньги, а они хотят видеть отдачу от своих вложений. Так работает наша рыночная система", - добавил Бенджио.

Ранее сообщалось, что уже этим летом компания OpenAI может представить следующее поколение своей флагманской языковой модели - ChatGPT-5. Хотя официальная дата запуска пока не подтверждена, многочисленные источники, включая инсайдерские сообщения и хронологию предыдущих релизов, указывают на возможный выход в июле 2025 года. По оценкам аналитиков, новая модель имеет потенциал существенно изменить работу искусственного интеллекта, сделав еще один шаг к технологии, приближающейся к уровню AGI, так называемого общего ИИ.

Поделиться
Поделиться сюжетом
Источник материала
«Срочно покидать города»: что известно о предполагаемой мести России за «Паутину»
Comments UA
2025-06-04T12:09:24Z
Часики тикают: почему у Украины осталось времени всего до конца июня
Comments UA
2025-06-04T12:42:14Z
Илон Маск отреагировал на удары по аэродромам в РФ
Корреспондент
2025-06-01T20:27:08Z
Появилась реакция НАТО на удары Украины по аэродромам РФ и Крымскому мосту
Comments UA
2025-06-04T12:33:35Z
Кризис, страшные удары и опасность: астролог ошеломил прогнозом по окончании войны
Знай
2025-06-07T20:30:58Z
Войска РФ вышли на 20 км к Сумам - DeepState
Корреспондент
2025-06-07T20:27:52Z
Полный разворот от Украины, какое решение приняли у Трампа, помимо пропуска Рамштайна
Comments UA
2025-06-04T12:30:15Z
Кремль впервые отреагировал на операцию Паутина
Корреспондент
2025-06-03T11:18:55Z
Россия воюет с Великобританией, а США больше не являются надежным союзником — эксперт
ZN UA
2025-06-06T22:54:10Z
RMF 24: в Польше на границе с Украиной нашли брошенные системы ЗРК, предназначенные Киеву
Лига
2025-06-04T12:21:34Z
4 категории мужчин исключат из воинского учета: их не мобилизуют
UAToday
2025-06-04T13:03:41Z
Бесплатные продукты для ВПЛ: украинцам раздают пищу, что важно знать о такой помощи
Политека
2025-06-05T13:31:59Z
F-16 мог сбить российский Су-35 ракетой с первого пуска – Defense Express
GlavRed
2025-06-07T15:30:18Z
8 июня 2025 года: великомученика Феодора — что сегодня нельзя делать
Фокус
2025-06-07T21:00:17Z
Кто покинул МастерШеф 15 в 15-м выпуске: вместо аматоров готовили родные и друзья
Факти ICTV
2025-06-07T20:36:29Z
Владельцы земельных участков хватаются за голову: придется выложить до 30 тысяч
Знай
2025-06-04T12:30:36Z
"600 тысяч — это реально": командующий Нацгвардией о численности войска в условиях перемирия
Апостроф
2025-06-07T09:06:08Z
Эксперт рассказала, какую роль могут сыграть университеты в развитии областей Украины
ZN UA
2025-06-07T15:36:21Z
Джамала продала дом под Киевом: певица назвала причину и где сейчас живет с детьми
TSN
2025-05-26T18:18:35Z
Какие платья нельзя носить женщинам за 50: такие модели выглядят нелепо и добавляют возраст
TSN
2025-05-26T16:48:44Z
54-летняя Наоми Кэмпбелл снялась для глянца в откровенных образах
Gazeta UA
2025-06-04T12:03:15Z
Лилия Ребрик восхитила романтикой с мужем на вокзале и показалась сразу с тремя дочерьми
TSN
2025-06-04T12:36:19Z
"Вернутся в Украину": беглецы Винник и Потап попали под раздачу
GlavRed
2025-06-07T12:27:09Z
В Киеве презентовали новую выставку украинского авангарда
ZN UA
2025-06-07T10:00:16Z
Рада стать бабушкой: Волочкова заговорила о пополнении
GlavRed
2025-06-04T11:51:55Z
Киркоров вызверился на Малахова и оскорбил его
GlavRed
2025-06-04T19:42:05Z
Ирина Билык показалась с двумя сыновьями и раскрыла подробности личной жизни
TSN
2025-05-25T07:48:32Z
Оккупанты превратили его в грязную лужу: в Украине исчезает уникальное Чистое озеро
Telegraf
2025-06-04T13:03:16Z
Как прогнать всех насекомых из дома без "химии": один запах заставит их сбежать навсегда
UAToday
2025-06-03T14:15:46Z
Салат "Летний Оливье": хрустящий, свежий и очень вкусный
TSN
2025-06-04T12:36:31Z
Россия уничтожает уникальное "розовое" озеро в Украине: его называют аналогом Мертвого моря
Telegraf
2025-06-07T15:33:19Z
Три знака зодиака, для которых солнцестояние станет началом большой удачи
Новости Украины
2025-06-07T20:51:17Z
Гороскоп на 8 июня 2025 года по картам Таро для всех знаков зодиака
UAToday
2025-06-07T15:27:17Z
Клубничный бум: непревзойденная галета к кофе или чаю
TSN
2025-05-26T17:06:31Z
В таком маринаде вы мясо еще не замачивали: понадобится кофе и еще несколько ингредиентов
Telegraf
2025-06-04T12:12:54Z
Главная стрижка лета-2025: трендовые варианты
TSN
2025-05-26T12:18:14Z
Škoda Favorit 1987 года переосмыслили как электрокар для нового поколения
Корреспондент
2025-05-29T18:15:23Z
Мастер создал копию культового суперкара Ferrari с дверями как у Lamborghini
Фокус
2025-06-07T09:27:10Z
Спасет от жары и духоты. Сколько в Украине стоит вентилятор в авто
Telegraf
2025-06-07T07:24:01Z
Выгодные условия : как стать владельцем Mazda CX-5 уже сегодня
Корреспондент
2025-06-07T06:39:23Z
Suzuki остановила производство популярного авто из-за ограничения Китая на редкоземельные элементы
Хвиля
2025-06-07T01:12:51Z
Электромобиль Nissan стал хитом в Китае и выйдет на глобальный рынок
Корреспондент
2025-06-06T18:48:28Z
Cadillac отзывает электромобили Lyriq из-за проблемы с дисплеем
Корреспондент
2025-06-06T16:39:59Z
Теслу съедают заживо: как китайские конкуренты победили детище Маска, которым вдохновлялись
Фокус
2025-06-06T16:21:51Z
Срочно разгрузите багажник в машине: водителям могут влепить серьезный штраф
Знай
2025-06-06T09:51:22Z
Последствия сильных взрывов в Киеве: куда попали россияне
Comments UA
2025-06-06T03:45:35Z
Трагический инцидент на отдыхе: девушка погибла во время полета на парасейлинге
Comments UA
2025-06-04T12:27:23Z
В Польше голый украинец бегал по улице и прыгал на авто
TSN
2025-05-28T15:21:21Z
В России группа врачей продавала детей за границу
Корреспондент
2025-05-31T18:33:20Z
Удар по Харькову: число жертв увеличилось
Корреспондент
2025-06-07T20:54:16Z
Россияне сбросили бомбы на Харьков: есть погибшие и раненые
Telegraf
2025-06-07T20:48:26Z
В Киеве на американца упал балкон у подъезда многоэтажки
VGorode
2025-05-29T12:57:14Z
Зарезали и пытались сжечь. В Бельгии произошло жуткое убийство украинки и ее 6-летней дочери
Telegraf
2025-06-07T18:13:19Z
Возле метро в Киеве обнаружили труп: что известно
TSN
2025-06-05T16:18:02Z
Делает пищу смертельно опасной: врачи назвали частую ошибку при употреблении популярного продукта
Знай
2025-06-07T10:51:21Z
Что происходит с давлением, когда вы пьете чай с шоколадом
UAToday
2025-06-07T09:03:19Z
То, что ты ешь, может сделать тебя несчастным: учёные бьют тревогу
Знай
2025-06-04T12:51:48Z
Ученые смогли нарушить связь болезни Альцгеймера с ее союзником: ключом стала диета
Фокус
2025-06-07T19:15:59Z
Болезнь Паркинсона можно определять с помощью ручки: ученые создали уникальную технологию
Знай
2025-06-07T18:51:05Z
Влияет на щитовидку и вызывает аллергию: врачи назвали самый вредный для здоровья чай
Знай
2025-06-07T16:51:36Z
Снимете воспаление и избавитесь от дискомфорта: как снять зуд после укусов комаров
Знай
2025-06-07T15:51:07Z
Ешьте и худейте — продукты, практически не содержащие калорий
UAToday
2025-06-07T12:06:28Z
Не таблетки: врачи назвали лучшее лекарство от беспокойства и тревоги
Фокус
2025-06-07T12:00:32Z
Срыв обмена пленными и телами погибших: что заявили в РФ
Comments UA
2025-06-07T18:15:21Z
С продвижением россиян появилась новая опасность для Сум
Telegraf
2025-06-07T11:15:23Z
ССО уничтожили группу россиян на Курском направлении – видео
Лига
2025-06-07T14:21:53Z
Удар по Харькову: повреждены более 30 домов и транспортное депо
Корреспондент
2025-05-30T07:30:06Z
Хронология войны – день 1201: обстрелы Харькова и бои под Покровском
Telegraf
2025-06-07T21:00:08Z
ВСУ поразили эшелон с военной техникой оккупантов
Корреспондент
2025-06-07T20:57:29Z
Професійні бригади з України збирають лохину в Грузії вдвічі швидше за місцевих
AgroNews
2025-06-04T12:16:30Z
ВСУ ведут бои на девяти направлениях - Генштаб
Корреспондент
2025-05-27T13:30:44Z
Генштаб рассказал о ситуации с боями на фронте
Корреспондент
2025-05-28T05:27:22Z
Российские акции обвалились после ударов СБУ по аэродромам
Корреспондент
2025-06-01T17:42:33Z
Из-за 10-секундного опоздания самолет не пустили на посадку в Мюнхене - пассажиры провели в пути еще 12 часов
Апостроф
2025-06-04T11:57:13Z
Курс валют на выходные, 31 мая и 1 июня: сколько стоят доллар, евро и злотый
TSN
2025-05-31T06:51:29Z
Курс валют на 5 июня: сколько будут стоить доллар, евро и злотый
TSN
2025-06-04T12:48:57Z
ПФУ дал льготникам 30 дней: что нужно сделать, чтобы не потерять помощь на оплату ЖКХ
Знай
2025-06-07T19:12:36Z
Выплату пенсий поставят на паузу: кто может остаться с пустым кошельком
Знай
2025-06-07T17:36:46Z
Немецкий банк заблокировал Шредеру выплаты из России
Корреспондент
2025-05-25T14:45:13Z
В Украине появится линия по выпуску 155-мм снарядов при участии чешской CSG, — Милитарный
Фокус
2025-06-04T12:36:13Z
Швеция ослабляет 100-летнюю жесткую монополию на продажу алкоголя
Европейская правда
2025-05-31T21:00:54Z
Связь будет даже при блэкаутах: как продлить заряд батареи на смартфоне
Знай
2025-06-04T18:51:04Z
Pornhub остановил показ порно в одной из стран Европы: какая причина
Comments UA
2025-06-04T12:57:24Z
В Украине могут начаться отключение мобильной связи: причины и продолжительность
Знай
2025-06-06T04:36:53Z
Россиянам по умолчанию запретят входящие звонки с иностранных сим-карт
Новости Украины
2025-06-07T19:03:28Z
Ученые бьют тревогу по поводу квантовых компьютеров: они могут взломать все банки с легкостью
Фокус
2025-06-07T18:45:53Z
Телескоп Иноэ впервые зафиксировал "отпечатки пальцев" магнитного поля Солнца
Gazeta UA
2025-06-07T17:54:19Z
«АрселорМіттал Кривий Ріг» виконав рекордні 70 плавок у серії на МБЛЗ №2
AgroNews
2025-06-07T17:13:42Z
Между небом и землей: ученые рассказали, что такое околосмертные переживания и что за ними стоит
Фокус
2025-06-07T16:57:44Z
Чим підживити баклажани після висадки у відкритий ґрунт, щоб отримати щедрий урожай
AgroNews
2025-06-07T14:07:23Z
Главный тренер львовского Руха уходит с должности досрочно
Корреспондент
2025-06-04T14:03:40Z
Гарсия перед провальным боем травмировался: Была операция
Корреспондент
2025-05-28T21:30:01Z
Составлена символическая сборная команда Лиги чемпионов
Корреспондент
2025-06-01T17:24:06Z
90 лет без титула, и вот наконец Юнион Сент-Жиллуаз в Бельгии снова чемпион
Корреспондент
2025-05-25T21:30:44Z
Матвиенко вывел команду на игру с Канадой в повязке с шевронами бригад ВСУ
Факти ICTV
2025-06-07T20:45:18Z
Золото чемпионата Европы Онофрийчук посвящает своей стране: Это важнее
Корреспондент
2025-06-07T19:24:19Z
Англия в квалификации на ЧМ-2026 в один мяч обыгрывает сборную Андорры
Корреспондент
2025-06-07T19:06:19Z
Вингер дортмундской Боруссии получил предложение от Челси
Корреспондент
2025-06-07T18:15:42Z
Португалия – Испания: где смотреть матч финала Лиги наций
Факти ICTV
2025-06-07T17:58:11Z