«Хрещений батько» ШІ закликав створити для технології аналог медичного регулятора FDA

Лауреат Нобелівської премії з фізики Джеффрі Гінтон, якого часто називають «хрещеним батьком штучного інтелекту», запропонував регулювати ШІ за аналогією з лікарськими засобами. На його думку, компанії повинні доводити безпечність своїх продуктів незалежному державному регулятору до їхнього випуску. Про це науковець розповів у подкасті Smart Girl Dumb Questions.

«Штучний інтелект слід регулювати так само, як ми регулюємо лікарські засоби», — передав Гінтон основну думку астрофізика Макса Тегмарка та додав, що нові ліки не можна просто випустити на ринок, а потім перевіряти, чи безпечні вони.

На думку науковця, перед випуском продуктів компанії мають переконати державного регулятора в їхній безпечності. У випадку з медикаментами таку функцію виконує Управління з продовольства і медикаментів США (Food and Drug Administration, FDA).

«Для цього треба виконати величезний обсяг роботи — на суму близько мільярда доларів. Здається, це мінімум, який має бути запроваджено і для ШІ», — заявив Гінтон.

Водночас науковець визнав, що створення великої регуляторної структури на кшталт FDA потребує часу. За його словами, це суперечить необхідності діяти щодо ризиків ШІ «дуже й дуже швидко».

Гінтон провів аналогію з боротьбою проти зміни клімату, зазначивши, що влада почала діяти лише після того, як суспільство усвідомило шкоду від спалювання викопного палива та створило відчутний тиск на політиків. На його думку, ситуація з технологіями розгортається за схожим сценарієм.

«Зараз ми бачимо, що громадськість починає тиснути на політиків, вимагаючи дій щодо ШІ», — наголосив науковець, назвавши це обнадійливим сигналом.

Тим часом компанії OpenAI, Anthropic та Google розпочали переговори щодо створення спільного органу для встановлення стандартів безпеки та попередньої перевірки передових моделей ШІ. За задумом ініціатора ідеї, колишнього очільника Google DeepMind Деміса Гассабіса, структура має працювати за зразком американського фінансового регулятора FINRA — тобто фінансуватися самими техногігантами, але діяти під державним наглядом.