У Нью-Йорку прийнято закон про запобігання катастрофам, що спричинені штучним інтелектом

Законодавці штату Нью-Йорк ухвалили законопроєкт, метою якого є запобігання тому, щоб моделі штучного інтелекту на передовій від OpenAI, Google та Anthropic сприяли розвитку стихійних лих, включаючи смерть або травмування понад 100 людей або збитки на суму понад 1 мільярд доларів.

Прийняття Закону RAISE є перемогою для руху за безпеку штучного інтелекту, який втратив позиції в останні роки, оскільки Кремнієва долина та адміністрація Трампа надали пріоритет швидкості та інноваціям. Прихильники безпеки, включаючи лауреата Нобелівської премії Джеффрі Хінтона та піонера досліджень штучного інтелекту Йошуа Бенхіо, підтримали Закон RAISE. Якщо він буде прийнятий законом, законопроєкт встановить перший в Америці набір юридично обов'язкових стандартів прозорості для передових лабораторій штучного інтелекту.

Закон RAISE має деякі з тих самих положень і цілей, що й суперечливий законопроект Каліфорнії про безпеку штучного інтелекту SB 1047, який зрештою був відхилений . Однак, співавтор законопроекту, сенатор штату Нью-Йорк Ендрю Гунардес, розповів в інтерв'ю TechCrunch, що він навмисно розробив закон RAISE таким чином, щоб він не стримував інновації серед стартапів або академічних дослідників — поширена критика SB 1047.

«Час для встановлення захисних огороджень швидко скорочується, враховуючи те, як швидко розвивається ця технологія», – сказав сенатор Гунардес. «Люди, які найкраще знають [штучний інтелект], кажуть, що ці ризики неймовірно ймовірні […] Це викликає тривогу».

Закон RAISE тепер прямує до губернатора Нью-Йорка Кеті Хочул, де вона може або підписати законопроєкт, або відправити його назад на внесення поправок, або взагалі накласти на нього вето.

Якщо закон про безпеку штучного інтелекту в Нью-Йорку буде підписаний, він вимагатиме від найбільших у світі лабораторій штучного інтелекту публікувати ретельні звіти про безпеку своїх передових моделей штучного інтелекту. Закон також вимагає від лабораторій штучного інтелекту повідомляти про інциденти безпеки, такі як поведінка моделі штучного інтелекту або крадіжка моделі штучного інтелекту зловмисниками, якщо такі трапляються. Якщо технологічні компанії не дотримуються цих стандартів, Закон RAISE надає генеральному прокурору Нью-Йорка право накладати цивільні штрафи на суму до 30 мільйонів доларів.

Закон RAISE має на меті вузько регулювати діяльність найбільших компаній світу — незалежно від того, чи базуються вони в Каліфорнії (як OpenAI та Google), чи в Китаї (як DeepSeek та Alibaba). Вимоги законопроєкта щодо прозорості стосуються компаній, чиї моделі штучного інтелекту були навчені з використанням обчислювальних ресурсів на суму понад 100 мільйонів доларів (очевидно, більше, ніж будь-яка модель штучного інтелекту, доступна сьогодні), і які стають доступними для жителів Нью-Йорка.

Хоча Закон RAISE в деяких аспектах схожий на SB 1047, він був розроблений для того, щоб відповісти на критику попередніх законопроєктів про безпеку штучного інтелекту, за словами Натана Кальвіна, віце-президента з державних справ і головного юрисконсульта Encode, який працював над цим законопроєктом і SB 1047. Примітно, що Закон RAISE не вимагає від розробників моделей ШІ включати «аварійний вимикач» до своїх моделей, а також не притягує компанії, які після навчання передових моделей ШІ відповідають за критичну шкоду.

З усім тим, Кремнієва долина значно відступила від законопроєкту Нью-Йорка про безпеку штучного інтелекту, розповів TechCrunch член Асамблеї штату Нью-Йорк та співавтор закону RAISE Алекс Борес. Борес назвав опір галузі несподіваним, але заявив, що закон RAISE жодним чином не обмежить інновації технологічних компаній.

«Закон штату Нью-Йорк RAISE — це ще один дурний, дуже дурний законопроєкт про штучний інтелект на рівні штату, який лише зашкодить США в той час, коли наші супротивники мчать вперед», — сказала генеральний партнер Andreessen Horowitz Анджні Мідха у п’ятничному дописі на X. Andreessen Horowitz та стартап-інкубатор Y Combinator були одними з найзапекліших противників SB 1047.

Anthropic, лабораторія штучного інтелекту, що спеціалізується на безпеці та закликала до встановлення федеральних стандартів прозорості для компаній, що займаються штучним інтелектом , на початку цього місяця не висловила офіційної позиції щодо законопроєкту, повідомив співзасновник Джек Кларк у п'ятничному дописі на X. Однак Кларк висловив певне невдоволення щодо широкого застосування Закону RAISE, зазначивши, що він може становити ризик для «менших компаній».

Коли сенатора штату Гунардеса запитали про критику Anthropic, він сказав TechCrunch, що, на його думку, вона «не відповідає дійсності», зазначивши, що він розробив законопроект не для застосування до малих компаній.

OpenAI, Google та Meta не відповіли на запит TechCrunch про коментар.

Ще одна поширена критика Закону RAISE полягає в тому, що розробники моделей штучного інтелекту просто не пропонують свої найсучасніші моделі ШІ у штаті Нью-Йорк. Подібна критика була висунута і проти SB 1047, і це значною мірою стосується Європи завдяки жорстким правилам континенту щодо технологій.

Член Асамблеї Борес розповів TechCrunch, що регуляторний тягар Закону RAISE є відносно незначним, і тому не повинен вимагати від технологічних компаній припинення виробництва своєї продукції в Нью-Йорку. Враховуючи той факт, що Нью-Йорк має третій за величиною ВВП у США, вихід зі штату — це не те, до чого більшість компаній поставилися б легковажно.

«Я не хочу недооцінювати політичну дріб’язковість, яка може трапитися, але я впевнений, що немає жодної економічної причини для [компаній, що займаються штучним інтелектом] не робити свої моделі доступними в Нью-Йорку», – сказав член Асамблеї Борес.