Цукерберг опубликовал манифест о будущем ИИ: централизация технологии представляет собой наибольший риск

Одновременно с выпуском новой открытой модели искусственного интеллекта Muse Glimmer генеральный директор компании Meta Марк Цукерберг опубликовал манифест объемом около 6500 слов, посвященный будущему ИИ. Он заявил, что наибольшую угрозу для развития искусственного интеллекта представляет чрезмерная концентрация контроля над технологией в руках одного правительства или организации, передает Axios.

«Один из способов достижения как индивидуального расширения прав и возможностей, так и системы сдержек и противовесов — это убедиться, что технологии находятся в руках каждого», — заявил Цукерберг в интервью Axios перед публикацией манифеста.

Глава Meta также подчеркнул необходимость сохранить лидерство США и демократических стран и в конечном итоге обеспечить, чтобы человечество контролировало суперинтеллект. В то же время Цукерберг отметил, что его позиция отличается от взглядов многих других представителей технологической отрасли.

ИИ для всех

В манифесте глава Meta утверждает, что предыдущие технологические революции также сопровождались опасениями относительно негативных последствий. Однако, по его словам, человечество в конечном итоге получало больше благосостояния, здоровья и свободы.

«Мы верим, что так же будет и в случае с искусственным интеллектом, и что плодами будущего благосостояния смогут воспользоваться все. Мы также убеждены, что ценности, которые привели нас к этому этапу — такие как свобода, открытый поиск знаний, свободное предпринимательство и равные возможности, — являются именно теми ценностями, на которых стоит строить позитивное будущее», — написал Цукерберг.

В то же время Цукерберг предостерег от сценария, при котором самые мощные системы ИИ будут контролироваться лишь отдельными людьми, компаниями или государствами. Он подчеркнул: «Лично я больше обеспокоен централизацией, чем какими-либо конкретными рисками, о которых говорят другие». Такое мнение поддерживает и футуролог Юваль Ной Харари, который предупредил, что контроль над данными и инфраструктурой ИИ может привести к созданию цифровых империй, в которых страны или компании смогут дистанционно управлять технологическим суверенитетом других государств.

Цукерберг против чрезмерного регулирования

Глава Meta также предупредил, что чрезмерное регулирование в США может ослабить позиции американских разработчиков в пользу других стран, в частности Китая. По его мнению, в сфере ИИ технологическое лидерство может меняться очень быстро.

«Любая политика, которая замедляет выпуск американских моделей — даже на месяц — может значительно увеличить риски для американского лидерства, позволяя иностранным моделям вырваться вперед», — отметил Цукерберг.

Доступный суперинтеллект

Цукерберг также рассказал о подходе Meta к доступности будущих систем суперинтеллекта. Компания планирует обеспечить каждому бесплатный или открытый доступ к таким инструментам, тогда как платные версии будут использовать «динамический аукцион» для получения вычислительных ресурсов по максимально низкой цене.

Усиление защиты конфиденциальности

Отдельно Цукерберг пообещал усилить защиту конфиденциальности будущих ИИ-агентов Meta. По его словам, пользователи должны получить полностью приватный режим, в котором Meta или другой поставщик услуг не будет иметь доступа к личной информации. В настоящее время политика Meta AI позволяет компании использовать практически каждое взаимодействие с сервисом для обучения своих систем, хотя недавно Meta добавила режим инкогнито.

Выпуск моделей с открытыми весами

Цукерберг также подтвердил планы компании возобновить выпуск моделей с открытыми весами (open-weight models). Meta уже открыла веса новой модели Muse Glimmer, которую компания называет одной из самых производительных такого размера, а в ближайшие недели планирует сделать доступными веса базовой модели Muse Spark 1.2.

Фонд для сообществ, расположенных рядом с дата-центрами

По словам Цукерберга, независимый совет Meta будет уполномочен утверждать критерии безопасности для выпуска моделей и проверять соответствие новых систем этим стандартам. Компания также планирует заключать соглашения с местными сообществами, где будут работать её центры обработки данных, предусматривая создание новых рабочих мест, инвестиции в школы и государственные услуги, а также обязательства в области энергетики и водопользования. Для поддержки сообществ США, где Meta владеет и управляет центрами обработки данных, компания создает фонд Future is for Everyone («Будущее для всех») в размере одного миллиарда долларов.

В начале прошлого месяца Цукерберг признал, что развитие автономных ИИ-агентов в компании отстает от прогнозов, а масштабная реструктуризация пока не принесла ожидаемых результатов. Руководитель Meta заявил о «чрезмерном оптимизме» в отношении скорости адаптации новых инструментов, надеясь ощутить эффект от инвестиций в течение следующих трех-шести месяцев.