MY.UAНовости
На грани нирваны и гибели. Как спасти человечество от искусственного интеллекта
На грани нирваны и гибели. Как спасти человечество от искусственного интеллекта

На грани нирваны и гибели. Как спасти человечество от искусственного интеллекта

Искусственный интеллект может сработать во вред человеку, предупреждает в колонке для The Wall Street Journal врач Дэвид Шейвиц. Поэтому нужно придумать механизмы, гарантирующие безопасность этих технологий.

В 1837 году кузнец из Гранд-Детура, штат Иллинойс, наткнулся на мельнице на сломанную стальную пилу; он взял лезвие домой — в то время стали было мало — и превратил его в плуг, который идеально подходил для плотной почвы этого региона. Он начал массовое производство этого инструмента, и вскоре имя John Deere стало синонимом сельскохозяйственной продукции. Сегодня компания все чаще производит автономные тракторы и комбайны, беспилотные машины, которые собирают и обрабатывают данные для оптимизации урожайности. "Сельскохозяйственные роботы не просто приходят", — восторгается Мустафа Сулейман. — "Они здесь".

Г-н Сулейман знает кое-что о новых технологиях. В 2010 году вместе с Демисом Хассабисом и Шейном Леггом он основал DeepMind с нескромной целью: "решить проблему интеллекта" — то есть воспроизвести человеческое познание с помощью компьютеров — и "сделать мир лучше". Компания DeepMind, приобретенная Google в 2014 году за разработку типа искусственного интеллекта, называемого глубоким обучением, добилась ряда потрясающих достижений. Одна из ее программ, AlphaFold, смогла предсказать трехмерную структуру белков на основе их аминокислотной последовательности, что стало научным прорывом. Неудивительно, что г-н Сулейман глубоко верит в возможности искусственного интеллекта. Но кое-что в будущем, которое он так хорошо представляет себе после многих часов раздумий и работы над его созданием, повергло его в шок. В книге "The Coming Wave" он надеется и нас расстроить.

Хорошая новость, говорит нам г-н Сулейман, заключается в том, что ИИ – вместе с синтетической биологией, технологией, направленной на создание организмов – готов "открыть новый рассвет для человечества". Он предвидит вселенную благоприятных перспектив. По его словам, ИИ находится на верном пути, чтобы "помогать управлять нашим бизнесом, лечить наши недуги и вести наши битвы". "Кажется, не существует очевидного верхнего предела возможного".

Но он напуган тем, что распространение этих технологий даст возможность "множеству злоумышленников спровоцировать разрушения, нестабильность и даже катастрофу невообразимого масштаба". Его страх вызван убеждением, что технологии имеют тенденцию становиться "дешевле и проще в использовании, и в конечном итоге они распространяются повсюду". (Один пример – автомобиль, другой – смартфон.) Новые технологии, по словам г-на Сулеймана, являются "усилителями хрупкости", потенциально помещая "рычаг с глобальными последствиями" в чужие руки. Он пишет, что дипфейки — манипулятивная имитация изображения или голоса — уже быстро распространяются, отравляя местные выборы в Индии и создавая возможности для банковского мошенничества в Гонконге. Вскоре, опасается он, возможность синтезировать биологическое оружие или использовать вооруженные дроны будет широко распространена – и это только немногие среди других тревожных сценариев.

Помимо неукротимой природы самой технологии, существует сложность выяснения того, как лучше всего модулировать наше стремление к ее расширению и использованию. Любому подобному усилию противодействует объединение мощных сил: например, страны, яростно конкурирующие за стратегическое преимущество или отчаянно решающие общие проблемы, такие как снабжение продовольствием, изменение климата и болезни. Сулейман допускает, что технология сама по себе не может быть ответом на подобные опасения, но это по-прежнему "самый мощный" инструмент, который у нас есть. Сдерживание усложняется также стремлением к прибыли, особенно с учетом того, что "приближающаяся волна" технологий представляет собой "величайшую экономическую награду в истории".

Важно Люди выиграли раунд у ИИ. Как Chat GPT потерпел поражение в битве за рабочие места

Но технологии трудно сдержать по другой причине: наша собственная нестабильная смесь любопытства и эго, наша запрограммированная неспособность "оставлять плоды на дереве", как выразился г-н Сулейман. Он признает в своих коллегах (и в себе) свойство, выраженное Дж. Робертом Оппенгеймером, директором по исследованиям атомной бомбы в Лос-Аламосе, штат Нью-Мексико: "Когда вы видите что-то технически красивое, вы идете вперед и делаете это, и вы будете спорить о том, что с этим делать, только после того, как добьетесь технического успеха".

Так что же делать? Для начала, предлагает г-н Сулейман, мы должны преодолеть наши первые рефлексивные реакции: отрицать наличие проблемы или немедленно обратиться к регулированию. По его словам, масштаб проблемы может вызвать реакцию, которую он называет "ловушкой отвращения к пессимизму": охваченные страхом, мы смотрим в другую сторону. Или мы можем потребовать законодательных исправлений. Однако для разработки эффективного регулирования требуется много времени, а технология просто развивается слишком быстро.

Наша цель, утверждает г-н Сулейман, должна заключаться не столько в том, чтобы остановить появление новых технологий, сколько в том, чтобы "вылепить" их и обеспечить их адаптацию к нашим потребностям. Он предлагает сделать их объектом надзора и обеспечить соблюдение правил, включая аудит и внешнюю проверку, и выступает за "более лицензированную среду", в которой самые сложные системы искусственного интеллекта будут производиться "только ответственными сертифицированными разработчиками". Он выступает за давление на критически важные точки — например, ограничение экспорта передовых компьютерных чипов или ограничение передачи данных по оптоволоконным кабелям большого объема — чтобы сдержать скорость развития. Однако он признает, что даже если его длинный список пожеланий будет принят, этого может оказаться недостаточно.

Футурист Рой Амара однажды сказал, что "мы склонны переоценивать эффект технологии в краткосрочной перспективе и недооценивать эффект в долгосрочной перспективе", и точка зрения Сулеймана о том, что мы балансируем на грани нирваны и гибели, кажется, подтверждает эту тенденцию. ИИ и синтетическая биология, возможно, развиваются быстрее, чем многие из нас думают, но не так быстро, как он думает. В частности, описывая прогресс в биологии, он склонен прыгать от ранних успехов (например, создания синтетического бактериального генома) к тому, что он считает неизбежным конечным состоянием: скажем, "миру дешевых персонализированных лекарств" или продуктов питания, производимых по требованию. На самом деле это будущее гораздо дальше, чем он себе представляет.

Но даже если время г-на Сулеймана ошибочно, его видение будущего кажется правильным: искусственный интеллект и синтетическая биология создают преобразующие возможности и экзистенциальные опасности. Как он жалобно утверждает, сейчас самое время считаться с обеими возможностями. Как мы можем управлять технологией таким образом, чтобы мы могли извлечь выгоду из ее необыкновенных перспектив, не разрушаясь при этом ее исключительной мощью?

Автор выражает личное мнение, которое может не совпадать с позицией редакции. Ответственность за опубликованные данные в рубрике "Мнения" несет автор.

Источник.

Теги по теме
Технологии
Поделиться
Поделиться сюжетом
Источник материала
Не храните это в доме: есть одна вещь, которая "притянет" кучу неприятностей
Telegraf
2025-08-01T00:24:09Z
Почему нельзя хранить яйца в дверце холодильника: ключевые причины, о которых нужно знать
TSN
2025-07-28T12:21:56Z
Въезд в США обрастает налогом в $250: как новый сбор усложнит въезд иностранцам
UAToday
2025-07-22T16:06:01Z
Гороскоп на 27 июля 2025 года по картам Таро для всех знаков зодиака
UAToday
2025-07-26T16:51:34Z
Гороскоп на 2 августа: знакомство с новыми людьми принесет интересный опыт
Новости Украины
2025-08-01T14:45:00Z
Гороскоп на 2 августа: Тельцам приятные сюрпризы, а Девам – удачные покупки
Telegraf
2025-08-01T14:03:48Z
В Мексике нашли потерянный город майя - легендарную "Страну белых ягуаров"
Апостроф
2025-07-28T12:33:19Z
10 вещей, которые никогда не понадобятся в поездках: советы, которые помогут собрать чемодан
Знай
2025-07-26T15:21:26Z
С хрустящей корочкой и мягкая внутри: хитрость кулинаров, которая поможет идеально пожарить картошку
Gazeta UA
2025-07-20T09:30:22Z
В Кремле заявили о готовности Путина закончить войну в Украине: какое условие
Comments UA
2025-07-20T09:36:41Z
Хоронили в закрытом гробу и под песни. Стефанчук, Притула и другие посетили прощание с нардепом Рущишиным
Telegraf
2025-07-28T12:15:55Z
Россия официально закрывает границы с Украиной: что это значит
Comments UA
2025-07-28T22:21:33Z
Сибига рассказал, к чему Путин приурочил новый смертельный удар по Киеву
Comments UA
2025-07-31T13:21:58Z
Советник Дуды об условиях и вызовах поддержки Польшей Украины в начале Великой войны
Европейская правда
2025-08-01T15:42:21Z
Индия перестала покупать российскую нефть – это результат деятельности Трампа, – Михаил Шейтельман
Знай
2025-08-01T15:42:03Z
Таганрог и Белгород атакуют "неизвестные дроны"
Корреспондент
2025-07-31T23:57:16Z
Рубио о Медведеве: не важное лицо, делает провокационные заявления
Европейская правда
2025-07-31T17:40:13Z
Путин мечтал о Крыме еще в 90-х - Spiegel
Корреспондент
2025-08-01T07:27:20Z
Даша Ульянова в крошечном бикини устроила соблазнительную фотосессию в бассейне
Gazeta UA
2025-07-28T11:48:39Z
У 56-летней Дженнифер Лопес на сцене упала юбка: зрители начали свистеть
Фокус
2025-07-28T09:45:58Z
Анджелина Джоли после громкого развода закрутила роман с бывшим любовником: кто он — СМИ
TSN
2025-07-26T15:18:52Z
Брэдли Купер готовится к предложению младшей на 20 лет всемирно известной модели: что известно - СМИ
TSN
2025-07-28T16:06:38Z
Юрий Никитин впервые высказался после развода с Ольгой Горбачевой
Корреспондент
2025-08-01T15:30:07Z
Известна причина смерти Галка Хогана
Корреспондент
2025-08-01T15:15:12Z
Вышел первый трейлер третьей части фильма Аватар
Корреспондент
2025-07-28T20:03:10Z
Гитаристка The Rasmus высказалась о визите в Украину
Корреспондент
2025-07-22T06:54:39Z
Скандал с поцелуем на большом экране: CEO Astronomer ушел в отставку
Comments UA
2025-07-20T09:24:30Z
Как вода с медом с утра повлияет на здоровье: вы удивитесь
TSN
2025-07-20T09:09:20Z
Лишь два стакана в день этого сока нормализует высокое артериальное давление
Comments UA
2025-07-23T17:06:12Z
Камни в желчном могут привести к смерти: ТОП опасных состояний
Comments UA
2025-07-30T15:24:40Z
Названы неожиданные свойства винограда, о которых никто не знал
TSN
2025-07-28T12:21:56Z
К бутербродам или на праздничный стол: рецепт сочного мясного рулета
Telegraf
2025-08-01T15:30:42Z
Сон с открытым окном может быть опасным: ученые ошарашили выводами
Comments UA
2025-08-01T11:57:09Z
Как заставить помидоры покраснеть: действенные способы
Gazeta UA
2025-07-21T15:33:32Z
В Японии разрешили выращивать человеческие эмбрионы из стволовых клеток
Новости Украины
2025-07-26T15:48:09Z
Названо белье, которое "убивает" мужское здоровье
Comments UA
2025-07-28T10:45:33Z
Полиция нашла женщину, которая в метро Киева кричала пророссийские лозунги
Корреспондент
2025-07-19T11:54:06Z
"Вагнеровцы" расстреляли 11 человек на шахте в Африке - СМИ
Корреспондент
2025-07-19T07:54:50Z
Удар по Одессе: спасатели показали последствия
Корреспондент
2025-07-19T03:27:55Z
В Подмосковье прогремели взрывы
Корреспондент
2025-07-18T20:51:13Z
Цунами повредило российскую базу атомных подводных лодок на Камчатке
Корреспондент
2025-08-01T15:39:25Z
Мангер, подозреваемый в убийстве Екатерины Гандзюк, снова хочет мобилизоваться
Комсомольская правда
2025-08-01T15:27:50Z
В Северном море нашли британский корабль, затонувший в Первую мировую
Корреспондент
2025-07-22T03:39:45Z
В Житомирской области мужчина угрожал гранатой полицейским – объявляли спецоперацию
Лига
2025-08-01T15:24:44Z
"Верхние этажи взлетели, нижние - провалились": Клименко о жутких последствиях удара по жилому дому в Киеве
Gazeta UA
2025-08-01T15:00:38Z
Девушка вылетела с 9 этажа во время атаки РФ и осталась жива
Comments UA
2025-07-31T14:27:02Z
В Украине придумали уникальный способ, как защитить F-16 от атак РФ
TSN
2025-07-31T17:33:26Z
Гуманитарная помощь для пенсионеров в Черкассах: какую поддержку оказывают пожилым людям
Политека
2025-07-20T09:30:59Z
Украинских школьников за границей ждет дискриминация: учителя протестуют против новых правил МОН
Знай
2025-07-20T09:21:24Z
Блогер Анна Алхим заявила, что переезжает в Дубай и не планирует возвращаться
Комсомольская правда
2025-08-01T15:37:14Z
Шесть растений, которые запрещено выращивать в Украине
Gazeta UA
2025-08-01T15:27:41Z
В ТЦК Полтавщины заявили о побеге мобилизованных
Корреспондент
2025-07-26T13:45:23Z
Литва планирует усилить ПВО на границах после инцидентов с дронами
Европейская правда
2025-07-28T16:45:57Z
Половина населения Тувалу решила мигрировать в Австралию
Корреспондент
2025-07-19T07:42:23Z
Почему вода в океане солёная, а в озёрах и реках - нет: ответ вас может удивить
UAToday
2025-07-26T16:51:54Z
Telegram дает сбои: пользователи пожаловались на проблемы с отправкой сообщений
TSN
2025-08-01T00:48:00Z
Таинственный межзвездный объект несется сквозь Солнечную систему — он больше Эвереста
TSN
2025-07-28T13:48:51Z
Россия превратила антивирус в шпионский троян: ФСБ годами следила за дипломатическими миссиями в Москве
Новости Украины
2025-08-01T15:33:05Z
Переписка с ChatGPT может отображаться в поиске Google
ZN UA
2025-08-01T15:01:35Z
Взрыв Redmi Note 13 Pro: Xiaomi отказала в гарантийной заявке
ITC
2025-08-01T14:43:06Z
Вейпы прослушивают курильщиков? Что говорят в сети об очередной "теории заговора"
Фокус
2025-08-01T14:12:59Z
Ученые обнаружили изысканные татуировки на теле "ледяной мумии" из Сибири
Апостроф
2025-08-01T13:33:38Z
Google представила новую модель ИИ, которая решает задачи лучше, чем OpenAI и xAI
Лига
2025-08-01T13:24:53Z
Вода в Донецке пропала полностью: решение власти РФ устроило еще большую проблему. ФОТО
Новости Украины
2025-07-31T15:36:58Z
Двух подростков-партизан посмертно наградили
Корреспондент
2025-07-19T14:21:35Z
ЦПД опроверг фейк РФ о "военнослужащем ВСУ, расстелявшем командира"
Корреспондент
2025-07-28T15:15:11Z
Николаев на двое суток может остаться без воды
Новости Украины
2025-07-28T13:48:33Z
Родина топ-таможенника построила под Киевом особняк за 70 млн грн - СМИ
Корреспондент
2025-08-01T15:33:49Z
Новый график движения транспорта в Тернопольской области: кого коснулись изменения
Политека
2025-08-01T15:30:49Z
За 1,4 тыс. долларов помогал уклонистам: ГБР задержало в Харькове чиновника ГСЧС
Апостроф
2025-07-28T17:04:00Z
Россияне убили пятерых жителей Константиновки
Корреспондент
2025-07-19T06:33:37Z
Партизаны взорвали важный железнодорожный маршрут оккупантов под Тулой
Корреспондент
2025-07-20T09:39:39Z
Надя Дорофеева показала фото с Усиком после блестящего боя и поделилась впечатлениями от встречи
TSN
2025-07-20T09:09:19Z
Два рекорда за год: юная львовянка установила новое достижение на Говерле
Фокус
2025-07-27T11:39:51Z
На этапе Бриллиантовой лиги в Лондоне украинка Левченко не выступит
Корреспондент
2025-07-18T19:54:57Z
"Просто уехал за границу": футболист "Металлиста 1925" исчез без объяснений, в клубе дали комментарий
Фокус
2025-08-01T15:21:36Z
Ливерпуль бегает за Исаком, Исак бегает от Ньюкасла
Корреспондент
2025-08-01T15:15:40Z
Финалистка юниорского Уимблдона София Белинская: Хочу стать первой ракеткой мира
Комсомольская правда
2025-08-01T15:04:55Z
Скандальный легионер официально покинул "Динамо"
ZN UA
2025-08-01T15:00:48Z
Роландо Ромеро сменил регулярный титул чемпиона WBA на полноценный
Корреспондент
2025-08-01T14:45:31Z
Колос відкрив сезон УПЛ перемогою над Кривбасом
Football.ua
2025-08-01T14:33:48Z
Китайскому Temu грозит штраф от ЕС за продажу "незаконных товаров"
Европейская правда
2025-07-28T13:58:07Z
Линии электропередач и объекты газотранспортной инфраструктуры будут восстанавливать быстрее
Хвиля
2025-07-29T20:12:43Z
В первом полугодии ІТ-ФЛП массово закрывались, но не все так плохо
Корреспондент
2025-07-29T20:24:50Z
Лукашенко распорядился штрафовать магазины за отсутствие картофеля
Корреспондент
2025-07-19T00:24:57Z
Искусственные ограничения должны уступить реальным ценовым сигналам - глава АМКУ
Апостроф
2025-08-01T15:42:08Z
В Украине в 2025 году открылось только 730 новых магазинов
Gazeta UA
2025-08-01T15:39:59Z
Сметанина назначена и.о. генерального директора Укроборонпрома
Корреспондент
2025-07-22T19:18:36Z
В Украине масштабируют производство собственной взрывчатки
Лига
2025-07-27T12:12:38Z
Пенсионерам выплатят 12 500 грн: кому и что нужно подать в ПФУ
Знай
2025-08-01T15:30:40Z
На разгадку есть15 с. Попробуйте найти в головоломке странное авто
Gazeta UA
2025-07-26T07:36:54Z
Трасса Спа-Франкоршам покорилась Оскару Пиастри
Корреспондент
2025-08-01T14:42:12Z
Названо ТОП-10 автомобилей, которые украинцы купили в салонах в июле
Корреспондент
2025-08-01T14:00:01Z
BYD презентовала самый дешевый электрокроссовер
Gazeta UA
2025-08-01T13:15:20Z
Ржавчина «съедает» ваше авто: проверенные способы, как защитить машину
Comments UA
2025-08-01T12:54:51Z
"Черная смерть": чем грозит постоянная медленная езда на автомобиле
Фокус
2025-08-01T10:00:45Z
Оставит механиков без работы: эксперт назвал бренд самых надежных авто
Фокус
2025-08-01T07:45:31Z
Аккумулятор Kia EV4 почти не ухудшился после 110 тысяч км пробега
Корреспондент
2025-07-31T18:39:19Z
Lamborghini установила рекорд продаж в 2025 году
Корреспондент
2025-07-31T16:57:59Z