MY.UAНовости
На грани нирваны и гибели. Как спасти человечество от искусственного интеллекта
На грани нирваны и гибели. Как спасти человечество от искусственного интеллекта

На грани нирваны и гибели. Как спасти человечество от искусственного интеллекта

Искусственный интеллект может сработать во вред человеку, предупреждает в колонке для The Wall Street Journal врач Дэвид Шейвиц. Поэтому нужно придумать механизмы, гарантирующие безопасность этих технологий.

В 1837 году кузнец из Гранд-Детура, штат Иллинойс, наткнулся на мельнице на сломанную стальную пилу; он взял лезвие домой — в то время стали было мало — и превратил его в плуг, который идеально подходил для плотной почвы этого региона. Он начал массовое производство этого инструмента, и вскоре имя John Deere стало синонимом сельскохозяйственной продукции. Сегодня компания все чаще производит автономные тракторы и комбайны, беспилотные машины, которые собирают и обрабатывают данные для оптимизации урожайности. "Сельскохозяйственные роботы не просто приходят", — восторгается Мустафа Сулейман. — "Они здесь".

Г-н Сулейман знает кое-что о новых технологиях. В 2010 году вместе с Демисом Хассабисом и Шейном Леггом он основал DeepMind с нескромной целью: "решить проблему интеллекта" — то есть воспроизвести человеческое познание с помощью компьютеров — и "сделать мир лучше". Компания DeepMind, приобретенная Google в 2014 году за разработку типа искусственного интеллекта, называемого глубоким обучением, добилась ряда потрясающих достижений. Одна из ее программ, AlphaFold, смогла предсказать трехмерную структуру белков на основе их аминокислотной последовательности, что стало научным прорывом. Неудивительно, что г-н Сулейман глубоко верит в возможности искусственного интеллекта. Но кое-что в будущем, которое он так хорошо представляет себе после многих часов раздумий и работы над его созданием, повергло его в шок. В книге "The Coming Wave" он надеется и нас расстроить.

Хорошая новость, говорит нам г-н Сулейман, заключается в том, что ИИ – вместе с синтетической биологией, технологией, направленной на создание организмов – готов "открыть новый рассвет для человечества". Он предвидит вселенную благоприятных перспектив. По его словам, ИИ находится на верном пути, чтобы "помогать управлять нашим бизнесом, лечить наши недуги и вести наши битвы". "Кажется, не существует очевидного верхнего предела возможного".

Но он напуган тем, что распространение этих технологий даст возможность "множеству злоумышленников спровоцировать разрушения, нестабильность и даже катастрофу невообразимого масштаба". Его страх вызван убеждением, что технологии имеют тенденцию становиться "дешевле и проще в использовании, и в конечном итоге они распространяются повсюду". (Один пример – автомобиль, другой – смартфон.) Новые технологии, по словам г-на Сулеймана, являются "усилителями хрупкости", потенциально помещая "рычаг с глобальными последствиями" в чужие руки. Он пишет, что дипфейки — манипулятивная имитация изображения или голоса — уже быстро распространяются, отравляя местные выборы в Индии и создавая возможности для банковского мошенничества в Гонконге. Вскоре, опасается он, возможность синтезировать биологическое оружие или использовать вооруженные дроны будет широко распространена – и это только немногие среди других тревожных сценариев.

Помимо неукротимой природы самой технологии, существует сложность выяснения того, как лучше всего модулировать наше стремление к ее расширению и использованию. Любому подобному усилию противодействует объединение мощных сил: например, страны, яростно конкурирующие за стратегическое преимущество или отчаянно решающие общие проблемы, такие как снабжение продовольствием, изменение климата и болезни. Сулейман допускает, что технология сама по себе не может быть ответом на подобные опасения, но это по-прежнему "самый мощный" инструмент, который у нас есть. Сдерживание усложняется также стремлением к прибыли, особенно с учетом того, что "приближающаяся волна" технологий представляет собой "величайшую экономическую награду в истории".

Важно Люди выиграли раунд у ИИ. Как Chat GPT потерпел поражение в битве за рабочие места

Но технологии трудно сдержать по другой причине: наша собственная нестабильная смесь любопытства и эго, наша запрограммированная неспособность "оставлять плоды на дереве", как выразился г-н Сулейман. Он признает в своих коллегах (и в себе) свойство, выраженное Дж. Робертом Оппенгеймером, директором по исследованиям атомной бомбы в Лос-Аламосе, штат Нью-Мексико: "Когда вы видите что-то технически красивое, вы идете вперед и делаете это, и вы будете спорить о том, что с этим делать, только после того, как добьетесь технического успеха".

Так что же делать? Для начала, предлагает г-н Сулейман, мы должны преодолеть наши первые рефлексивные реакции: отрицать наличие проблемы или немедленно обратиться к регулированию. По его словам, масштаб проблемы может вызвать реакцию, которую он называет "ловушкой отвращения к пессимизму": охваченные страхом, мы смотрим в другую сторону. Или мы можем потребовать законодательных исправлений. Однако для разработки эффективного регулирования требуется много времени, а технология просто развивается слишком быстро.

Наша цель, утверждает г-н Сулейман, должна заключаться не столько в том, чтобы остановить появление новых технологий, сколько в том, чтобы "вылепить" их и обеспечить их адаптацию к нашим потребностям. Он предлагает сделать их объектом надзора и обеспечить соблюдение правил, включая аудит и внешнюю проверку, и выступает за "более лицензированную среду", в которой самые сложные системы искусственного интеллекта будут производиться "только ответственными сертифицированными разработчиками". Он выступает за давление на критически важные точки — например, ограничение экспорта передовых компьютерных чипов или ограничение передачи данных по оптоволоконным кабелям большого объема — чтобы сдержать скорость развития. Однако он признает, что даже если его длинный список пожеланий будет принят, этого может оказаться недостаточно.

Футурист Рой Амара однажды сказал, что "мы склонны переоценивать эффект технологии в краткосрочной перспективе и недооценивать эффект в долгосрочной перспективе", и точка зрения Сулеймана о том, что мы балансируем на грани нирваны и гибели, кажется, подтверждает эту тенденцию. ИИ и синтетическая биология, возможно, развиваются быстрее, чем многие из нас думают, но не так быстро, как он думает. В частности, описывая прогресс в биологии, он склонен прыгать от ранних успехов (например, создания синтетического бактериального генома) к тому, что он считает неизбежным конечным состоянием: скажем, "миру дешевых персонализированных лекарств" или продуктов питания, производимых по требованию. На самом деле это будущее гораздо дальше, чем он себе представляет.

Но даже если время г-на Сулеймана ошибочно, его видение будущего кажется правильным: искусственный интеллект и синтетическая биология создают преобразующие возможности и экзистенциальные опасности. Как он жалобно утверждает, сейчас самое время считаться с обеими возможностями. Как мы можем управлять технологией таким образом, чтобы мы могли извлечь выгоду из ее необыкновенных перспектив, не разрушаясь при этом ее исключительной мощью?

Автор выражает личное мнение, которое может не совпадать с позицией редакции. Ответственность за опубликованные данные в рубрике "Мнения" несет автор.

Источник.

Теги по теме
Технологии
Поделиться
Поделиться сюжетом
Источник материала
Сергій Притула звернувся до дружини в особливий день для їхньої родини
ГЛАВКОМ NET
2025-08-31T13:33:13Z
Дизайнерка одягу Зеленських вдруге стала мамою
ГЛАВКОМ NET
2025-08-31T08:30:47Z
Покоління зумерів диктує моду: п'ять головних джинсових трендів
ГЛАВКОМ NET
2025-08-30T22:00:36Z
Адріана Бурміцька – "На повторі" – 10 місце чарту FM-TV минулого тижня.
FM-TV
2025-08-30T21:48:27Z
Наталія Могилевська перевидала свій російськомовний хіт 2003 року Полюби меня такой українською мовою.
FM-TV
2025-08-30T20:15:30Z
Диван зачекає: куди піти у Києві цими вихідними, 30 – 31 серпня
VGorode
2025-08-30T14:21:32Z
Пропалестинські активісти зірвали виступ оркестра у Лондоні
Европейская правда
2025-08-30T11:00:16Z
На тлі мовного скандалу "Золотий вік" розірвав співпрацю з Каменських: відео, що сталось в Маямі
FaceNews
2025-08-30T09:06:06Z
«Золотий вік» розірвав співпрацю з Настею Каменських через російські пісні
ГЛАВКОМ NET
2025-08-30T05:03:14Z
Різниця зарплат між східною і західною Німеччиною знову збільшилась
Европейская правда
2025-08-31T13:39:50Z
Приватизацію Білгород-Дністровського порту завершено
AgroPortal
2025-08-31T13:00:18Z
Виробництво яловичини в Україні ділиться 50/50 між населенням і фермами
AgroPortal
2025-08-31T12:30:00Z
Понад 90% персиків у ЄС вирощують три країни
AgroPortal
2025-08-31T11:30:45Z
Експерт оцінив вплив європейського вуглецевого податку на українських виробників
ГЛАВКОМ NET
2025-08-31T10:42:38Z
Україна входить до топ-3 постачальників агропродукції до Туреччини
AgroPortal
2025-08-31T09:00:49Z
Органічний виробник на Дніпропетровщині відмовився від вирощування малини
AgroPortal
2025-08-31T08:30:51Z
Колишній міністр агрополітики України очолив Рівненське відділення ФРУ
Agravery
2025-08-31T08:06:13Z
Агроліга не виплачуватиме дивіденди
AgroPortal
2025-08-31T07:30:24Z
Мерц зробив відверту заяву щодо закінчення війни в Україні
ГЛАВКОМ NET
2025-08-31T16:39:20Z
У Фінляндії депутат, який назвав мігрантів "відходами суспільства", змушений вибачатися
Европейская правда
2025-08-31T16:09:22Z
Кремль цинічно виправдав відмову Путіна зустрітися із Зеленським
ГЛАВКОМ NET
2025-08-31T15:48:52Z
Гарантии безопасности в небе и на море, Трамп угрожает миру, Венгрия готовит вето: все за выходные
Европейская правда
2025-08-31T15:39:08Z
У Києві на знаковому місці відбудеться вечір спогадів про Андрія Парубія
ГЛАВКОМ NET
2025-08-31T15:36:59Z
Осінь випробувань: що чекає Україну
ГЛАВКОМ NET
2025-08-31T15:33:59Z
Путіна, який прибув до Китаю на саміт, зустріли червоною доріжкою і "Калинкою-Малинкою"
FaceNews
2025-08-31T15:30:21Z
Кремль завищує "успіхи" про темпи наступу на фронті: аналітики ISW розкрили головну мету
FaceNews
2025-08-31T15:06:01Z
Ексміністр розповів, із якою небезпекою зіткнеться Україна після припинення бойових дій
ГЛАВКОМ NET
2025-08-31T14:51:08Z
«Палац Путіна» ледь не згорів: пожежу гасили чотири дні
ГЛАВКОМ NET
2025-08-31T13:36:35Z
Мер Рені потрапив у смертельну ДТП: загинула жінка, він із 5-річним сином у лікарні з численними травмами
FaceNews
2025-08-31T12:00:01Z
В австрійських Альпах загинув альпініст із Чехії
Европейская правда
2025-08-31T10:09:17Z
Вибух в Одесі: судно пошкоджене через міну
ГЛАВКОМ NET
2025-08-31T08:42:01Z
На Миколаївщині перекинувся мікроавтобус з пасажирами: є загиблі
ГЛАВКОМ NET
2025-08-31T08:21:00Z
У Норвегії в результаті зсуву на дорозі утворилось провалля, є загиблий
Европейская правда
2025-08-31T07:39:26Z
Під Москвою палають складські приміщення
ГЛАВКОМ NET
2025-08-31T07:39:09Z
«Мотоцикл замість перепустки»: прикордонники викрили схему втечі за кордон
ГЛАВКОМ NET
2025-08-31T06:03:00Z
Дайвер зник у морі, а через два дні його знайшли на іншому континенті
ГЛАВКОМ NET
2025-08-30T18:48:26Z
Мерц: введення сухопутних військ в Україну наразі не обговорюється
Европейская правда
2025-08-31T14:51:50Z
У яких областях України зафіксовано порушення з боку ТЦК: офіційні дані
ГЛАВКОМ NET
2025-08-31T12:51:57Z
Сінгапур вводить каральні заходи за вейпінг: штрафи, тюремні строки та навіть тілесні покарання
ГЛАВКОМ NET
2025-08-31T10:42:38Z
У Росії нова піхотна доктрина: 4 ключових аспекти
FaceNews
2025-08-31T08:06:47Z
У Франкфурті тисячі людей вийшли на пропалестинську акцію
Европейская правда
2025-08-31T06:09:31Z
Пентагон обіцяє Україні «ракету-диво»: що відомо про ERAM
ГЛАВКОМ NET
2025-08-31T06:00:46Z
Боронив Україну з 2014 року. Згадаймо Олександра Броннікова
ГЛАВКОМ NET
2025-08-31T06:00:40Z
У камері збитого БпЛА окупантів знайдено кадри з китайського заводу
ГЛАВКОМ NET
2025-08-30T23:24:29Z
В Україні працюють секретні заводи дронів – Politico
ГЛАВКОМ NET
2025-08-30T21:54:20Z
У печінці жінки росла дитина: світову медичну спільноту сколихнув рідкісний випадок
ГЛАВКОМ NET
2025-08-31T13:21:11Z
Як вечеряти, аби отримати довголіття: поради дієтологів
ГЛАВКОМ NET
2025-08-31T01:09:47Z
До 4 тис. грн кожному: уряд збільшив розміри виплат для певної категорії осіб
ГЛАВКОМ NET
2025-08-30T21:03:42Z
Чому після Covid-19 мислення стає повільнішим: вчені знайшли відповідь
ГЛАВКОМ NET
2025-08-29T10:03:56Z
Чай, кава та мікропластик: нове дослідження розкриває неочікувану небезпеку
ГЛАВКОМ NET
2025-08-29T07:27:00Z
План на випадок війни: Франція готується прийняти сотні тисяч поранених
ГЛАВКОМ NET
2025-08-28T05:27:52Z
Сезон небезпеки для алергіків у розпалі: як уберегтись від амброзії
ГЛАВКОМ NET
2025-08-27T10:36:09Z
Укусив кліщ – що робити? Алгоритм дій від інфекціоніста
ГЛАВКОМ NET
2025-08-26T19:03:37Z
Синдром хронічної втоми чому ми постійно виснажені
Comments UA
2025-08-26T17:49:41Z
Президент Чехії проїхався на гоночному авто – ймовірно першим з посадовців такого рівня
Европейская правда
2025-08-29T16:06:41Z
Актуальні штрафи за відсутність автоцивілки в Україні у 2025 році: скільки доведеться заплатити?
VGorode
2025-08-28T11:09:39Z
На Полтавщині власник покинув просто неба рідкісний спорткар
ГЛАВКОМ NET
2025-08-24T15:12:52Z
Jeep представив онлайн-конфігуратор та повний перелік комплектацій для моделі Cherokee
Топ Жир
2025-08-23T01:06:45Z
GM наказує дилерам призупинити продаж моделей ZR1 та Z06 до з’ясування причин несправностей
Топ Жир
2025-08-23T00:21:43Z
Nissan нарешті позбувся цієї жахливої мультимедійної системи
Топ Жир
2025-08-22T23:36:36Z
Цей рестомод Alfa Romeo сміється з можливостей Giulia Quadrifoglio Verde
Топ Жир
2025-08-22T22:50:12Z
Пункт призначення по-українськи: у Рівному помітили ризикового водія
Telegraf
2025-08-22T22:36:47Z
Volkswagen перетворила Golf R на справжнього монстра доріг
Топ Жир
2025-08-22T22:06:47Z
На столичному пляжі надувна гірка впала разом із дітьми
ГЛАВКОМ NET
2025-08-31T16:06:36Z
Російський снайпер поранив батька та сина однією кулею
ГЛАВКОМ NET
2025-08-31T15:24:55Z
Волонтерка Берлінська попередила про серйозний наступ РФ
ГЛАВКОМ NET
2025-08-31T15:06:02Z
Українські «Нептуни» атакували Крим
ГЛАВКОМ NET
2025-08-31T14:33:04Z
Екологиня розповіла, які нові бур’яни та комахи-шкідники з’явилися в Україні через глобальне потепління
ГЛАВКОМ NET
2025-08-31T13:51:58Z
На Харківщині браконьєри наловили раків на 3 млн грн
ГЛАВКОМ NET
2025-08-31T12:15:33Z
Окупант розстріляв цивільного на Донеччині: прокуратура розпочала розслідування
ГЛАВКОМ NET
2025-08-31T12:03:36Z
Росія обстріляла з артилерії центр Херсона: є поранені
ГЛАВКОМ NET
2025-08-31T11:39:12Z
Сили оборони знайшли протидію новій тактиці РФ на одному з напрямків
ГЛАВКОМ NET
2025-08-31T11:27:45Z
МЗС Словаччини стверджує, що ніколи не зупиняло оформлення туристичних віз росіянам
Европейская правда
2025-08-29T18:48:00Z
Словаччина відновила видачу туристичних віз росіянам
Европейская правда
2025-08-29T15:06:49Z
Зумери кардинально змінюють правила роботи: дослідження
ГЛАВКОМ NET
2025-08-29T13:42:30Z
У Туреччині почалися страйки в готелях
ГЛАВКОМ NET
2025-08-29T12:12:48Z
15 кілометрів під землею за кілька хвилин: Італія будує новий тунель
ГЛАВКОМ NET
2025-08-29T05:24:28Z
Психологи виявили третій шлях до гарного життя, який раніше недооцінювали
ГЛАВКОМ NET
2025-08-29T02:00:38Z
Навіщо на овочі й фрукти наносять віск? Держспоживслужба пояснила, чому треба бути обережним
ГЛАВКОМ NET
2025-08-29T01:27:48Z
Іспанський експрес: один маршрут потягом став хітом сезону у європейців
ГЛАВКОМ NET
2025-08-26T14:15:31Z
Туристи знову обирають «старий» формат відпочинку – Financial Times
ГЛАВКОМ NET
2025-08-26T10:36:58Z
У небі зійде «Кривавий місяць»: українці на початку вересня зможуть побачити унікальне явище
ГЛАВКОМ NET
2025-08-31T12:36:34Z
Meta змінює правила чат-ботів для підлітків
ГЛАВКОМ NET
2025-08-31T10:39:31Z
У Kernel змінився директор з безпеки
AgroPortal
2025-08-30T12:30:14Z
Прогноз магнітних бур на 30-31 серпня: якою буде сонячна активність
ГЛАВКОМ NET
2025-08-30T04:15:24Z
Apple оголосила дату презентації нового iPhone 17
ГЛАВКОМ NET
2025-08-29T15:36:58Z
Нова політика OpenAI: за що ChatGPT може «здати» вас поліції
ГЛАВКОМ NET
2025-08-29T14:57:43Z
Кібербезпека стає ключовим фактором довіри до фінансових онлайн-сервісів – експерт
GameMag
2025-08-29T12:28:16Z
Мелоні обурилась публікацією фото себе та інших жінок на порносайті
Европейская правда
2025-08-29T11:33:30Z
Врятований ведмедик загиблої дівчинки зворушив соцмережі до сліз
ГЛАВКОМ NET
2025-08-29T10:55:03Z
Усик може втратити титул WBO через танці: деталі скандалу
ГЛАВКОМ NET
2025-08-31T16:24:39Z
Надія українського дзюдо змінила громадянство: здобула медаль чемпіонату світу для Словенії
ГЛАВКОМ NET
2025-08-31T12:39:03Z
Гравець НБА Михайлюк зробив резонансу заяву про свою гру за збірну України
ГЛАВКОМ NET
2025-08-31T06:51:37Z
Гравець донецького «Шахтаря» Георгій Судаков перейшов до «Бенфіки»
ГЛАВКОМ NET
2025-08-30T22:54:22Z
Костюк вперше у кар'єрі вийшла у 1/8 фіналу US Open
ГЛАВКОМ NET
2025-08-30T19:54:45Z
Плакала і лупцювала сама себе. Прихильниця Путіна зазнала сенсаційної поразки на US Open
ГЛАВКОМ NET
2025-08-30T08:15:39Z
Дитяча футбольна команда з Харківщини стикнулася з булінгом на Львівщині: деталі скандалу
ГЛАВКОМ NET
2025-08-29T14:33:04Z
Жіноча збірна України U-16 завершила Євробаскет розгромною перемогою
ГЛАВКОМ NET
2025-08-29T13:33:24Z
Україна вимагає відсторонити від чемпіонату світу російську лучницю, яка незаконно їздила в Крим
ГЛАВКОМ NET
2025-08-29T12:36:45Z