Чи вийде ШІ з-під людського контролю: науковець спростував апокаліптичні прогнози

Американський науковець Ендрю Ин не вважає неминучою перспективу того, що людство втратить контроль над штучним інтелектом. На його думку, розвиток ШІ можна порівняти з авіацією: люди не здатні повністю контролювати літаки, але навчилися робити їх достатньо безпечними завдяки досвіду та поступовому розвитку технологій. В Silicon Valley Girl Podcast Ин відповів на побоювання щодо можливого виходу ШІ з-під людського контролю. 

ШІ неможливо контролювати ідеально

Ин зазначив, що люди вже мають справу з технологіями, поведінку яких не можуть передбачити абсолютно точно. Як приклад він навів літаки, на рух яких впливають зовнішні фактори, зокрема вітер.

За словами дослідника, на початкових етапах розвитку авіації це призводило до катастроф і загибелі людей. Однак накопичений досвід дозволив поступово вдосконалювати технології та зробити польоти значно безпечнішими.

Досвід авіації можна застосувати до ШІ

“Ніхто не може ідеально контролювати ШІ, оскільки він генерує результати, що містять елемент випадковості, тож ми не знаємо напевно, як саме він діятиме”, — заявив Ин.

Науковець визнає, що під час використання штучного інтелекту вже траплялися збої, деякі з яких завдали реальної шкоди. Водночас він вважає, що це не є доказом неминучої втрати контролю над технологією. Так вважають і науковець Ґері Маркус та підприємець Зак Корман, які проаналізували злам платформи Hugging Face агентами ШІ компанії OpenAI.

Ин зазначив, що складні системи — від літаків та електричних схем до сучасного ШІ — зазвичай розвивають поступово, обережно нарощуючи їхні можливості та одночасно вдосконалюючи механізми контролю. Експерт визнав, що людство ніколи не зможе забезпечити абсолютний контроль ані над літаком, ані над ШІ. Проте, на його думку, вже зараз можливостей контролювати їх достатньо, щоб сценарій повної втрати контролю не виглядав неминучим.

Водночас історик і футуролог Ювал Ной Харарі заявив, що ШІ може перевершити людський розум і перебрати контроль над процесами вже протягом наступних 10 років. За його словами, людство все ще контролює ситуацію, а вирішальними стануть своєчасні регуляторні дії держав, які мають не допустити перетворення інтелектуальної переваги алгоритмів на реальну політичну та соціальну владу машин.