"Крестный отец" искусственного интеллекта предупреждает об опасности технологии

Джеффри Хинтон, которого называют «крестным отцом искусственного интеллекта», подтвердил в понедельник, что на прошлой неделе покинул свой пост в Google, чтобы иметь возможность говорить об «опасности» разрабатываемой им технологии, пишет CNN.

Работа Хинтона над нейронными сетями сформировала системы искусственного интеллекта, работающие во многих современных продуктах. Десять лет он работал в Google над разработкой искусственного интеллекта технического гиганта, однако с тех пор он обеспокоен этой технологией и своей ролью в ее развитии.

«Я утешаю себя обычным оправданием: если бы  этого не сделал я, это сделал бы кто-нибудь другой», — сказал Хинтон New York Times, которая первой сообщила о его решении.

В понедельник в Твиттере Хинтон сообщил, что оставил Google, чтобы свободно говорить о рисках ИИ, а не из-за желания критиковать конкретно Google.

«Я ушел, чтобы говорить об опасности ИИ, не задумываясь о том, как это повлияет на Google. Google действовал очень ответственно», – написал он.

Джефф Дин, главный научный сотрудник Google, заявил, что Хинтон «совершил основополагающий прорыв в ИИ» и выразил благодарность за «десятилетие вклада Хинтона в Google».

«Мы по-прежнему привержены ответственному подходу к искусственному интеллекту. Мы постоянно учимся понимать новые риски, вместе с тем внедряя инновации», — сообщил Дин в предоставленном CNN заявлении.

Решение Хинтона уйти из компании и высказывать свою точку зрения о технологии произошло в тот момент, когда все больше законодателей, правозащитных групп и технических инсайдеров выразили обеспокоенность потенциалом новой группы чат-ботов на основе ИИ для распространения дезинформации и вытеснения рабочих мест.

Волна внимания вокруг ChatGPT в конце прошлого года помогла возобновить гонку вооружений среди технологических компаний в разработке и применении подобных инструментов ИИ в своих продуктах. OpenAI, Microsoft и Google находятся в авангарде этой тенденции, однако IBM, Amazon, Baidu и Tencent тоже работают над подобными технологиями.

В марте несколько видных деятелей в области технологий подписали письмо с призывом в лаборатории искусственного интеллекта прекратить обучение мощнейших систем искусственного интеллекта по крайней мере на шесть месяцев, ссылаясь на «значительные риски для общества и человечества».

Письмо, опубликованное Future of Life Institute, некоммерческой организацией, поддерживаемой Илон Маск, поступило через две недели после того, как OpenAI анонсировала GPT-4, еще более мощную версию технологии, поддерживающей ChatGPT.

Во время первых тестов и презентаций GPT-4 использовался для сдачи исков, сдачи стандартизированных экзаменов и создания рабочего веб-сайта с нарисованного вручную эскиза.

В интервью Times Хинтон повторил обеспокоенность потенциалом ИИ уничтожить рабочие места и создать мир, где многие «больше не смогут знать, что является правдой». Он также указал на ошеломляющие темпы продвижения, значительно превышающие ожидания его и других.

«Несколько человек поверили в то, что эта штука на самом деле может стать умнее людей. Но большинство людей, в том числе я считали, что это далекая перспектива. Я думал, что это произойдет через 30-50 лет или даже больше. Очевидно, я больше так не думаю», – заявил он.

Еще до того, как покинуть Google, Хинтон публично говорил о потенциале искусственного интеллекта приносить как вред, так и пользу.

«Я считаю, что быстрый прогресс искусственного интеллекта изменит общество способом, который мы не совсем понимаем, и не все последствия будут положительными», — сказал Хинтон во время церемониального обращения 2021 года в Индийском технологическом институте Бомбея в Мумбаи.

Он отмечал, что ИИ улучшит здравоохранение, но также создаст возможности для автономного летального оружия.

«Я считаю эту перспективу гораздо более срочной и гораздо более ужасной, чем перспектива увлечения работами, которая, по моему мнению, очень далека», — объяснил Хинтон.

Хинтон не первый сотрудник Google, поднимающий красный флажок по ИИ. В июле компания уволила инженера, утверждавшего, что неопубликованная система искусственного интеллекта стала разумной, заявив, что он нарушил правила занятости и безопасности данных. Многие в сообществе искусственного интеллекта решительно отрицали утверждение инженера.

На днях министры цифровых технологий стран G7 согласовали пять принципов развития гибких форм управления новыми технологиями, такими как искусственный интеллект, на фоне быстрого распространения использования чат-ботов на основе ИИ по всему миру.

Компании, создающие генеративные инструменты искусственного интеллекта, такие как ChatGPT, должны будут также заявлять, были ли использованы какие-либо защищенные авторским правом материалы для разработки этих систем.