Перед устранением Альтмана ученые предупредили об опасном прорыве в разработке ИИ

Перед устранением Сэма Альтмана с должности гендиректора OpenAI, которое длилось четыре дня, несколько ученых написали письмо совету директоров компании с предупреждением о мощном открытии искусственного интеллекта, которое, по их словам, может угрожать человечеству. Об этом сообщает Reuters со ссылкой на два ознакомленных источника.

Речь идет о проекте под названием Q*. Некоторые сотрудники OpenAI считают, что Q* (произносится как Q-Star) может стать прорывом в искусственном общем интеллекте – это автономные системы, превосходящие людей в большинстве экономически ценных задач.

Учитывая огромные вычислительные ресурсы, новая модель способна решать некоторые математические проблемы, сообщил источник из компании на условиях анонимности. Прохождение математических тестов заставило исследователей быть очень оптимистичными по поводу будущего успеха Q*, сообщил источник.

Исследователи считают математику пределом развития генеративного ИИ. Пока генеративный искусственный интеллект хорошо справляется с написанием и переводом языка, статистически предполагая следующее слово, где результат может отличаться. Но достижение математических способностей, где есть только один верный ответ, означает, что искусственный интеллект будет иметь больше возможностей рассуждать, подобных человеческому интеллекту. Исследователи ИИ считают, что это применимо, например, к новым научным исследованиям.

В отличие от калькулятора, который может выполнять ограниченное количество операций, общий интеллект может обобщать, изучать и понимать.

В своем письме в правление исследователи отметили мастерство и потенциальную опасность искусственного интеллекта, сообщили источники, не указав точные проблемы безопасности, указанные в письме.

Исследователи также отметили работу группы "ученых ИИ", существование которой подтвердили многочисленные источники. Группа, сформированная путем объединения предыдущих команд Code Gen и Math Gen, исследовала, как оптимизировать существующие модели искусственного интеллекта, чтобы улучшить их соображения и выполнять научную работу.