OpenAI відкладає навчання GPT-5: компанія занепокоєна безпекою людства

Під час конференції, організованої індійським виданням Economic Times, Сем Альтман, керівник OpenAI, розповів про поточний стан GPT-5.

Нам потрібно зробити багато роботи, перш ніж ми запустимо цю модель. Ми працюємо над новими ідеями, які, на нашу думку, необхідні для цього, але ми ще не наблизилися до запуску.

У заяві зазначається, що OpenAI прагне вирішити проблеми, які викликають занепокоєння громадськості та експертної спільноти.

Технологічний світ стурбований загрозою ШІ

У березні понад тисячу осіб, включаючи таких відомих діячів, як Ілон Маск і Стів Возняк, підписали відкритого листа, в якому закликали лабораторії ШІ припинити навчання систем досконаліших за GPT-4, щонайменше на шість місяців. Хоча Альтман зазначив, що в листі бракує технічних нюансів, він підкреслив, що OpenAI не починав навчання для GPT-5 і не планує цього робити в найближчому майбутньому.

Щоб зняти занепокоєння щодо потенційних ризиків, пов'язаних зі штучним інтелектом, Альтман наголосив, що OpenAI прагне провести всебічну оцінку технології. Організація співпрацює із зовнішніми експертами, проводить імітацію повномасштабних кібератак і виконує суворі тести безпеки. Альтман також нагадав аудиторії, що навіть після завершення GPT-4 пройшло ще шість місяців, перш ніж платформа була випущена для громадськості. Цей часовий графік демонструє відданість OpenAI ретельній оцінці та заходам безпеки.

Хоча Альтман відкинув деякі занепокоєння щодо потенційних загроз ШІ, він висловив застереження щодо державного регулювання для невеликих стартапів у сфері ШІ. На слуханнях у Сенаті він запропонував, щоб таке регулювання поширювалося не лише на OpenAI, а й на більших гравців у цій галузі. Альтман стверджував, що OpenAI, з її прихильністю до безпеки та відповідальної розробки ШІ, може ефективно саморегулюватися у співпраці з зовнішніми експертами.