Для искусственного интеллекта нужно создать четвертый закон робототехники Азимова: о чем речь

Масштабное и стремительное развитие искусственного интеллекта, а также его доступность для любого, кто имеет доступ к сети, ставит человечество перед необходимостью создания четвертого закона робототехники, в дополнение к знаменитым трем законам, сформулированным писателем-фантастом Айзеком Азимовым.

Такое мнение высказал преподаватель философии из Оксфордского университета (Великобритания) Джонни Томсон. Он также сформулировал и сам четвертый закон, объяснив его неотложность.

Томсон отмечает, что человечество столетиями было убеждено, что является вершиной эволюционного развития и поэтому многих пугает сама перспектива развития ИИ.

Он вспоминает научно-фантастический рассказ Азимова "…что Ты помнишь о ней", суть которого сводится к тому, что человечество взлелеяно в мыслях о том, что является доминирующим видом на Земле и не способно воспринять тот факт, что искусственный интеллект может посягнуть на его "владения" и сместить с престола. Но боятся люди не только этого, а того, что не будут контролировать ситуацию с развитием ИИ.

"За мгновение в 21 веке мы превратились из источника всей мудрости и креативности в неуклюжих обезьян, которые щупают устаревшие инструменты", – написал философ.

По его словам, за последние несколько месяцев, когда стало понятно, на что способен искусственный интеллект, "люди из центра вселенной превратились в нечто очень напоминающее бета-тест".

"Почти за одну ночь искусственный интеллект разразился большим, потрясающим всплеском. Он создает искусство и книги, музыку и фильмы. Он поддерживает разговоры и распознает лицо. Короче говоря, ИИ делает все то, что мы считаем лучшим в мире. В некоторых случаях он делает это даже лучше (чем люди. – Ред.)", – написал Томсон.

В свое время Азимов, мечтавший о сосуществовании людей и роботов, сформулировал три закона робототехники, которые, по своей сути, являются "механизмами, помогающими человеку контролировать вещи".

Вот, как они звучат:

• Робот не может причинить вред человеку или своим бездействием позволить причинить вред человеку.
• Робот должен подчиняться приказам, отданным ему человеком, за исключением случаев, когда такие приказы противоречат Первому Закону.
• Робот должен защищать свое существование, пока такая защита не противоречит Первому или Второму законам.

"Рассказы Азимова блестяще работают как научная фантастика, но также показывают нам, насколько трудно – даже невозможно – создать беспроблемные законы для управления любым интеллектом. Всегда найдется лазейка или исключение", – отмечает ученый.

Он добавляет, что в рассказе Азимова в конце концов работы интерпретируют человека как существо, обладающее "высшим интеллектом". Поэтому сейчас человечество может встать перед вопросом, достаточно ли относиться к виду Homo sapiens, чтобы считаться человеком и как интерпретировать искусственный интеллект, если он превзойдет человека в творчестве и высоком интеллекте.

"Если или когда придет всеобщий искусственный интеллект, это будет больше, чем просто угроза нашему образу жизни. Это угроза тому, как мы вообще понимаем человечество", – подчеркивает философ.

Именно поэтому, пока ИИ не превратился в господствующий вид, Томсон предлагает создать четвертый закон робототехники, звучащий так:

• Робот должен идентифицировать себя.

"Когда мы переходим в мир искусственного интеллекта, который делает человеческие вещи лучше, чем человек, большинство из нас все равно захочет знать, что сделано человеком, а что – нет… Мы имеем право знать, с кем мы взаимодействуем – с человеком или с искусственным интеллектом", – резюмирует он.

Как рассказывал OBOZREVATEL, искусственный интеллект уже неоднократно вводил людей в заблуждение. Один из последних случаев произошел в конце марта, когда в сети обсуждали фото Папы Римского в стильном пуховике, которое оказалось сгенерированным ИИ.