MY.UAНовости
Юротдел Microsoft якобы заставил замолчать инженера, который выразил беспокойство по поводу уязвимости DALL-E 3
Юротдел Microsoft якобы заставил замолчать инженера, который выразил беспокойство по поводу уязвимости DALL-E 3

Юротдел Microsoft якобы заставил замолчать инженера, который выразил беспокойство по поводу уязвимости DALL-E 3

Инженер Microsoft утверждает, что DALL-E 3 от OpenAI имеет уязвимости в системе безопасности, которые могут позволить пользователям генерировать изображения насилия или откровенные изображения (подобные тем, что недавно были направлены против Тейлор Свифт). Впрочем, юридический отдел компании заблокировал попытки инженерного лидера Microsoft Шейна Джонса предупредить общественность об этой уязвимости. «Разоблачитель», как он себя называет, сейчас передает свое сообщение на Капитолийский холм (Сенат США).

Я пришел к выводу, что DALL-E 3 представляет угрозу общественной безопасности и должен быть изъят из публичного доступа, пока OpenAI не устранит риски, связанные с этой моделью.

— написал Джонс сенаторам США Пэтти Мюррей (D-WA) и Марии Кантвелл (D-WA), депутату Адаму Смиту (D-WA 9-й округ) и генеральному прокурору штата Вашингтон Бобу Фергюсону (D).

Джонс утверждает, что в начале декабря он обнаружил эксплойт, который позволяет обойти защитные системы DALL-E 3. Он говорит, что сообщил об этой проблеме своему руководству в Microsoft, которое поручило ему «лично сообщить о проблеме непосредственно в OpenAI». После этого он утверждает, что узнал, что этот изъян может позволить генерировать «насильственные и тревожные вредоносные изображения», передаёт Engadget.

Затем Джонс попытался привлечь внимание общественности к своей проблеме в посте на LinkedIn. «Утром 14 декабря 2023 года я публично опубликовал в LinkedIn письмо к совету директоров OpenAI с призывом приостановить доступ к DALL-E 3)», — написал Джонс. «Поскольку Microsoft является наблюдателем в совете директоров OpenAI, и я ранее поделился своими опасениями со своей командой руководителей, я немедленно сообщил Microsoft о письме, которое я опубликовал».

Вскоре после того, как я раскрыл письмо своему руководству, со мной связался мой менеджер и сообщил, что юридический отдел Microsoft потребовал, чтобы я удалил этот пост. Он сказал мне, что юридический отдел Microsoft очень скоро пришлет по электронной почте конкретное обоснование запроса на удаление, и что я должен удалить его немедленно, не дожидаясь электронного письма от юриста.

— написал он в своем письме.

Джонс выполнил требование, но, по его словам, более детального ответа от юридического отдела Microsoft так и не поступило. «Я так и не получил от них никаких объяснений или оправданий». Дальнейшие попытки узнать больше от юридического отдела компании были проигнорированы. «Юридический отдел Microsoft до сих пор не ответил и не связался со мной напрямую».

Представитель OpenAI написал Engadget в электронном письме:

Мы немедленно расследовали отчет сотрудника Microsoft, когда получили его 1 декабря, и подтвердили, что метод, которым он поделился, не обходит наши системы безопасности. Безопасность является нашим приоритетом, и мы применяем многосторонний подход. В основе модели DALL-E 3 мы работали над тем, чтобы отфильтровать наиболее откровенный контент из учебных данных, включая графический контент сексуального характера и насилия, а также разработали надежные классификаторы изображений, которые не дают модели генерировать вредоносные изображения.

Мы также внедрили дополнительные меры безопасности для наших продуктов, ChatGPT и DALL-E API — в том числе отклоняем запросы, в которых запрашивается имя публичного лица. Мы обнаруживаем и отклоняем сообщения, которые нарушают нашу политику, и фильтруем все сгенерированные изображения перед тем, как они будут показаны пользователю. Мы используем внешние экспертные команды для проверки на злоупотребления и усиления наших гарантий.

Между тем представитель Microsoft ответил: «Мы стремимся решать все проблемы, возникающие у сотрудников, в соответствии с политикой нашей компании, и ценим усилия сотрудников в изучении и тестировании наших новейших технологий для дальнейшего повышения их безопасности. Что касается обходов безопасности или проблем, которые могут иметь потенциальное влияние на наши услуги или наших партнеров, мы создали надежные внутренние каналы отчетности для надлежащего расследования и устранения любых проблем, которыми мы рекомендовали пользоваться сотрудникам, чтобы мы могли должным образом проверить его беспокойство, прежде чем говорить об этом публично».

По словам «разоблачителя», порно фейки Тейлор Свифт, которые распространились в X, являются одной из иллюстраций того, к чему могут привести подобные уязвимости, если их не контролировать.

Microsoft знала об этих уязвимостях и потенциале для злоупотреблений.

— подытожил Джонс.

Джонс призывает представителей в Вашингтоне принять меры. Он предлагает правительству США создать систему отчетности и отслеживания конкретных уязвимостей искусственного интеллекта, защищая при этом сотрудников, которые говорят об этом:

Мы должны привлечь компании к ответственности за безопасность их продукции. Обеспокоенные работники, такие как я, не должны поддаваться запугиванию, чтобы заставить их молчать.

Теги по теме
Microsoft
Поделиться
Поделиться сюжетом
Источник материала
Отец Илона Маска приехал в Москву и сделал заявление о Путине
Comments UA
2025-06-09T13:12:21Z
«Срочно покидать города»: что известно о предполагаемой мести России за «Паутину»
Comments UA
2025-06-04T12:09:24Z
Часики тикают: почему у Украины осталось времени всего до конца июня
Comments UA
2025-06-04T12:42:14Z
Илон Маск отреагировал на удары по аэродромам в РФ
Корреспондент
2025-06-01T20:27:08Z
Трамп предложил сажать в тюрьму за сожжение флага США
Корреспондент
2025-06-11T02:39:51Z
Уже расконсервированы все фонтаны, не работавшие в мирный период, - Николай Томенко о деньгах на войну
Знай
2025-06-11T02:21:39Z
Полный разворот от Украины, какое решение приняли у Трампа, помимо пропуска Рамштайна
Comments UA
2025-06-04T12:30:15Z
Появилась реакция НАТО на удары Украины по аэродромам РФ и Крымскому мосту
Comments UA
2025-06-04T12:33:35Z
Кремль впервые отреагировал на операцию Паутина
Корреспондент
2025-06-03T11:18:55Z
Что нельзя делать на Троицу 2025: полный список запретов
Факти ICTV
2025-06-08T04:42:04Z
4 категории мужчин исключат из воинского учета: их не мобилизуют
UAToday
2025-06-04T13:03:41Z
RMF 24: в Польше на границе с Украиной нашли брошенные системы ЗРК, предназначенные Киеву
Лига
2025-06-04T12:21:34Z
Теперь не до шуток: Буданов рассказал, почему угроза от ракет KN-23 выросла в разы
Comments UA
2025-06-10T12:04:13Z
Помощь для детей, вернувшихся с ВОТ: кто может получить
ZN UA
2025-06-11T02:24:54Z
С кем опасно ссориться 11 июня и зачем делать уборку сегодня: приметы и запреты на Варфоломея и Варнавы
Знай
2025-06-11T02:03:22Z
8 июня - сегодня День святой Троицы, что нельзя делать, все об этом дне
Комсомольская правда
2025-06-08T02:34:32Z
Бесплатные продукты для ВПЛ: украинцам раздают пищу, что важно знать о такой помощи
Политека
2025-06-05T13:31:59Z
Владельцы земельных участков хватаются за голову: придется выложить до 30 тысяч
Знай
2025-06-04T12:30:36Z
54-летняя Наоми Кэмпбелл снялась для глянца в откровенных образах
Gazeta UA
2025-06-04T12:03:15Z
Лилия Ребрик восхитила романтикой с мужем на вокзале и показалась сразу с тремя дочерьми
TSN
2025-06-04T12:36:19Z
Рада стать бабушкой: Волочкова заговорила о пополнении
GlavRed
2025-06-04T11:51:55Z
Киркоров вызверился на Малахова и оскорбил его
GlavRed
2025-06-04T19:42:05Z
Автомобильный замес под песню Роба Зомби в отрывке второго сезона сериала Twisted Metal от Sony
GameMag
2025-06-10T20:52:57Z
Премьеру фильма по The Legend of Zelda отложили на полтора месяца
GameMag
2025-06-10T20:15:39Z
Победительницей конкурса Мисс Мира стала 21-летняя представительница Таилан
Корреспондент
2025-06-02T09:18:21Z
Олена Тополя рассказала о пластической операции
Корреспондент
2025-06-03T08:57:59Z
Утреннее шоу возвращается: Apple TV объявил дату премьеры четвертого сезона
Корреспондент
2025-05-29T14:48:15Z
Как прогнать всех насекомых из дома без "химии": один запах заставит их сбежать навсегда
UAToday
2025-06-03T14:15:46Z
Салат "Летний Оливье": хрустящий, свежий и очень вкусный
TSN
2025-06-04T12:36:31Z
Россия уничтожает уникальное "розовое" озеро в Украине: его называют аналогом Мертвого моря
Telegraf
2025-06-07T15:33:19Z
Оккупанты превратили его в грязную лужу: в Украине исчезает уникальное Чистое озеро
Telegraf
2025-06-04T13:03:16Z
Гороскоп на сегодня, 11 июня: кто станет жертвой завистей и интриг
Знай
2025-06-11T01:33:44Z
Ты все это время мыл посуду неправильно: вот, о чем забывают 90% людей
Знай
2025-06-10T18:51:43Z
"Клубніка, суниця чи полуниця": как правильно называть первую ягоду летнего сезона
Gazeta UA
2025-06-08T12:24:34Z
Пять самых грязных вещей в спальне
Gazeta UA
2025-06-08T17:54:02Z
Пять фруктов, которые созревают после того, как их сорвали
Gazeta UA
2025-06-08T13:36:56Z
Российский военный расстрелял жилой дом из гранатомета в Курской области
Comments UA
2025-06-10T07:51:59Z
Эвакуация из города Сумы: что известно
Comments UA
2025-06-08T20:39:14Z
Срыв обмена пленными и телами погибших: что заявили в РФ
Comments UA
2025-06-07T18:15:21Z
Синоптики обновили прогноз на понедельник
Gazeta UA
2025-06-09T03:18:57Z
Мобилизация депутатов и их сыновей: военный сделал важное заявление
Знай
2025-06-11T02:30:47Z
Жара отступает, но погода готовит новый каприз: когда Украину зальет дождями
Telegraf
2025-06-11T02:03:43Z
Буданов: Обмен телами погибших запланирован на следующую неделю
Лига
2025-06-08T12:30:52Z
С продвижением россиян появилась новая опасность для Сум
Telegraf
2025-06-07T11:15:23Z
В Украине станет прохладнее: синоптик порадовала прогнозом на понедельник
Gazeta UA
2025-06-08T13:21:49Z
Škoda Favorit 1987 года переосмыслили как электрокар для нового поколения
Корреспондент
2025-05-29T18:15:23Z
Триумфатор Индикара отказывается от Формулы-1 ради побед в США
Корреспондент
2025-06-10T15:06:31Z
Автомобиль постоянно "жрет" горючее: автомеханики назвали причину перерасходов
Comments UA
2025-06-10T13:42:32Z
Путь в Формулу-1: суперлицензию досрочно получил юниор Ред Булл
Корреспондент
2025-06-10T13:33:04Z
Премиального собрата VW Tiguan от Audi показали до презентации
Фокус
2025-06-10T12:57:58Z
Старый 65-летний FIAT без окон и дверей продают по цене нового Porsche Cayenne
Фокус
2025-06-10T10:45:43Z
Полной компенсации не ждите. Можно ли возместить стоимость авто, пострадавшего в результате войны
Telegraf
2025-06-10T08:48:34Z
Автопроизводители в панике из-за дефицита редкоземельных магнитов
Корреспондент
2025-06-09T18:30:54Z
Стремительный дизайн и больше мощности: появились подробности кроссовера Nissan Leaf
Фокус
2025-06-09T18:12:08Z
Последствия сильных взрывов в Киеве: куда попали россияне
Comments UA
2025-06-06T03:45:35Z
В Польше голый украинец бегал по улице и прыгал на авто
TSN
2025-05-28T15:21:21Z
В Киеве 14-летний мальчик упал с канатного аттракциона, его госпитализировали
Комсомольская правда
2025-06-08T14:24:19Z
Трагический инцидент на отдыхе: девушка погибла во время полета на парасейлинге
Comments UA
2025-06-04T12:27:23Z
Россияне обстреляли Харьков беспилотниками: много пожаров, есть погибшие и раненые
Gazeta UA
2025-06-11T02:42:47Z
На автогонках погибли сотни людей
Gazeta UA
2025-06-11T02:39:37Z
В России группа врачей продавала детей за границу
Корреспондент
2025-05-31T18:33:20Z
В российской Казани вспыхнул сильный пожар
Корреспондент
2025-06-09T09:03:06Z
В Киеве на американца упал балкон у подъезда многоэтажки
VGorode
2025-05-29T12:57:14Z
Делает пищу смертельно опасной: врачи назвали частую ошибку при употреблении популярного продукта
Знай
2025-06-07T10:51:21Z
Шесть продуктов, которые уберегут от обезвоживания летом
Gazeta UA
2025-06-08T16:00:43Z
Что происходит с давлением, когда вы пьете чай с шоколадом
UAToday
2025-06-07T09:03:19Z
Влияет на щитовидку и вызывает аллергию: врачи назвали самый вредный для здоровья чай
Знай
2025-06-07T16:51:36Z
Почему внезапно возникает холодный пот и когда стоит волноваться
Comments UA
2025-06-10T17:06:39Z
Осталось меньше месяца, чтобы спастись от борщевика: как убрать с участка растение-монстра навсегда
Telegraf
2025-06-10T16:06:05Z
То, что ты ешь, может сделать тебя несчастным: учёные бьют тревогу
Знай
2025-06-04T12:51:48Z
Игнорирование этих симптомов приводит к инвалидности и смерти: что указывает на развитие инсульта
Comments UA
2025-06-10T15:39:27Z
Эти методы эффективно устраняют боль в шее: что нужно делать немедленно
Comments UA
2025-06-10T14:12:36Z
Российские акции обвалились после ударов СБУ по аэродромам
Корреспондент
2025-06-01T17:42:33Z
Тарифы выросли на 50% за выходные: Попенко объяснил, кто завышает цены на свет для украинцев
Хвиля
2025-06-08T12:15:11Z
Из-за 10-секундного опоздания самолет не пустили на посадку в Мюнхене - пассажиры провели в пути еще 12 часов
Апостроф
2025-06-04T11:57:13Z
Курс валют на выходные, 31 мая и 1 июня: сколько стоят доллар, евро и злотый
TSN
2025-05-31T06:51:29Z
Всемирный банк поднял показатели предела бедности
Gazeta UA
2025-06-11T02:18:09Z
Одним хватает только на хлеб, другим – на курорт: в Украине требуют пересмотра пенсионных выплат
Знай
2025-06-11T02:12:57Z
В Украине появится линия по выпуску 155-мм снарядов при участии чешской CSG, — Милитарный
Фокус
2025-06-04T12:36:13Z
Курс валют на 5 июня: сколько будут стоить доллар, евро и злотый
TSN
2025-06-04T12:48:57Z
Швеция ослабляет 100-летнюю жесткую монополию на продажу алкоголя
Европейская правда
2025-05-31T21:00:54Z
ГУР "выключил" сервисы российской железной дороги
Корреспондент
2025-06-08T15:36:08Z
Связь будет даже при блэкаутах: как продлить заряд батареи на смартфоне
Знай
2025-06-04T18:51:04Z
Pornhub остановил показ порно в одной из стран Европы: какая причина
Comments UA
2025-06-04T12:57:24Z
В Украине могут начаться отключение мобильной связи: причины и продолжительность
Знай
2025-06-06T04:36:53Z
Україна перемогою над Новою Зеландією завершила виступи на Canadian Shield
Football.ua
2025-06-10T23:04:16Z
Украинская команда B8 прервала свой путь на Austin Major
Корреспондент
2025-06-10T21:00:55Z
Nintendo Switch 2 показала рекордные стартовые продажи в Испании — все остальные консоли остались далеко позади
GameMag
2025-06-10T20:15:57Z
Resident Evil Requiem: новая героиня, ядерный пустырь Ракун-Сити и перезагрузка ужаса
Знай
2025-06-10T19:51:54Z
Кислотность океана достигла критических уровней
Корреспондент
2025-06-10T18:18:25Z
Впервые за 28 лет: украинка стала чемпионкой Европы по художественной гимнастике
Апостроф
2025-06-08T13:43:28Z
Главный тренер львовского Руха уходит с должности досрочно
Корреспондент
2025-06-04T14:03:40Z
Гарсия перед провальным боем травмировался: Была операция
Корреспондент
2025-05-28T21:30:01Z
Составлена символическая сборная команда Лиги чемпионов
Корреспондент
2025-06-01T17:24:06Z
Австралия обеспечила себе место на ЧМ-2026, обыграв Саудовскую Аравию
Корреспондент
2025-06-10T21:09:09Z
Назван самый дорогой футболист украинской Премьер-лиги
ZN UA
2025-06-10T20:15:38Z
Паркер или Уордли: Уоррен обсудил соперника для победителя боя Усик - Дюбуа
Корреспондент
2025-06-10T19:54:52Z
Гренландию отказались принять в футбольную конфедерацию
Корреспондент
2025-06-10T19:30:50Z
Россия атаковала Киев и повредила стадион "Спартак"
Gazeta UA
2025-06-10T19:18:06Z