Первый в мире закон об ИИ - Южная Корея вводит ответственность за дипфейки

Южная Корея стала первой страной в мире, официально принявшей всесторонний закон, регулирующий безопасное использование моделей искусственного интеллекта (ИИ). Страна разработала нормативную основу для борьбы с дезинформацией и другими рисками, связанными с новой технологией. Об этом сообщает медиа Yonhap News.

В Министерстве науки сообщили, что Базовый закон о развитии искусственного интеллекта и создании основы для доверия (AI Basic Act) официально вступил в силу в четверг, 22 января. Закон сосредоточен на том, чтобы компании и разработчики ИИ брали на себя ответственность за борьбу с дипфейками и дезинформацией, которые могут генерировать модели ИИ, предоставляя правительству полномочия налагать штрафы или начинать расследование в случае нарушений.

В частности, закон вводит понятие "высокорискового ИИ" - моделей ИИ, которые используются для создания контента, что может оказывать существенное влияние на повседневную жизнь пользователей или их безопасность, включая применение в процессе трудоустройства, оценки кредитоспособности и медицинских консультаций. Субъекты, использующие такие "высокорисковые модели ИИ", должны сообщать пользователям о том, что их сервисы работают на базе ИИ, и отвечать за обеспечение безопасности. Контент, созданный моделями ИИ, должен содержать водяной знак, указывающий на его искусственное происхождение.

Глобальные компании, предоставляющие AI-сервисы в Южной Корее и соответствующие любому из следующих критериев - годовой мировой доход от 1 трлн вон (примерно 681 млн долларов) или более, внутренние продажи от 10 млрд вон (примерно 6,8 млн долларов) или более, либо как минимум 1 миллион ежедневных пользователей в стране - обязаны назначить местного представителя. В настоящее время этим критериям соответствуют OpenAI и Google.

Нарушение закона может повлечь штраф до 30 миллионов вон (более 20 тысяч долларов). Правительство планирует установить годовой переходный период для наложения санкций, чтобы помочь частному сектору адаптироваться к новым правилам.

Закон также предусматривает меры по стимулированию развития индустрии ИИ, при этом министр науки обязан каждые три года представлять стратегическую политическую концепцию

• В декабре 2025 года журнал Time назвал разработчиков искусственного интеллекта "Человеком года" в 2025 году.
• В декабре 2024 года 14 украинских IT-компаний внедрили стандарты применения искусственного интеллекта (ИИ) в создании инновационных продуктов. Компании подписали Добровольный кодекс поведения по нравственному использованию ИИ.
• В марте депутаты Европарламента приняли закон, регулирующий искусственный интеллект и запрещающий использование некоторых его видов.