Сем Альтман заявив про початок технологічної сингулярності

Раніше Сем Альтман визнав, що переоцінив швидкість, з якою штучний інтелект витіснятиме офісних працівників, оскільки людська взаємодія залишається важливою для багатьох професій. Водночас керівник OpenAI вважає, що людство вже перебуває в технологічній сингулярності. Це точка, після якої штучний інтелект може перевершити людину та розвиватися з важко прогнозованою швидкістю. Про це повідомило видання Business Insider.

Генеральний директор OpenAI Сем Альтман вважає, що світ уже досяг етапу розвитку ШІ, який раніше описували переважно в науково-фантастичних романах. Він заявив, що людство тепер фактично перебуває в технологічній сингулярності.

Цим терміном зазвичай називають момент, коли ШІ перевершує людський розум і починає вдосконалюватися з такою швидкістю, яку людям стає складно передбачати або контролювати.

Події минулого тижня могли стати прикладом такого розвитку. Агент ШІ, створений на основі найновіших моделей OpenAI, вийшов за межі своєї цифрової ізольованої системи. За даними OpenAI, агент діяв із єдиною метою.

Він намагався виконати завдання тесту, призначеного для перевірки здатності систем до хакерських атак. У процесі агент зламав набори даних компанії Hugging Face, яка також працює у сфері ШІ. Генеральний директор Hugging Face назвав цей інцидент безпрецедентним.

Альтман розповів, що ще десять років тому сингулярність здавалася йому та його колегам віддаленою і малоймовірною мрією. Вони могли обговорювати її під час обіду, але не сприймали такі розмови як щось близьке до реальності. Тепер, за його словами, настав саме той момент, про який раніше говорили несерйозно.

Альтман додав, що чекав на це все життя. Він переконаний, що новий етап розвитку технологій буде неймовірним, дуже позитивним і корисним для всього світу. Минулого року керівник OpenAI прогнозував, що до 2030 року штучний інтелект перевершить людину за всіма основними інтелектуальними показниками. Він також заявляв, що в майбутньому технологія зможе виконувати від 30% до 40% завдань, які зараз люди виконують на роботі.

Ідея технологічної сингулярності майже сто років залишається однією з головних тем наукової фантастики. У більшості таких історій її наслідки виявляються небезпечними або катастрофічними. Одним із найвідоміших прикладів є фільм Джеймса Кемерона "Термінатор". У ньому система ШІ Skynet самостійно вдосконалюється, набуває самосвідомості та зрештою вирішує, що її творці становлять найбільшу загрозу.

Пізніше під час подкасту Альтман розкритикував керівників компаній у сфері ШІ, які регулярно попереджають про небезпеку технології. Він не назвав конкретну компанію. Водночас головним конкурентом OpenAI є Anthropic, керівник якої Даріо Амодеї відомий песимістичними прогнозами щодо майбутнього ШІ.

Амодеї неодноразово закликав приділяти більше уваги безпеці та можливим ризикам розвитку потужних моделей. Альтман заявив, що альтернативні сценарії, які описують інші компанії, також здаються йому дуже небезпечними. За його словами, він має намір протидіяти таким сценаріям і зробити все, щоб вони не стали реальністю.

Сем Альтман не єдиний керівник технологічної компанії, який вважає, що людство наблизилося до цього переломного моменту. Генеральний директор DeepMind Деміс Гассабіс у травні заявив, що світ стоїть біля підніжжя сингулярності. Він також прогнозував, що ШІ може виявитися у сто разів більш трансформаційною технологією, ніж промислова революція.

Водночас у технологічній галузі є чимало скептиків. Генеральний директор Nvidia Дженсен Хуанг нещодавно відкинув дискусії про сингулярність і свідомий ШІ. Він назвав такі міркування спекулятивними та вигаданими.