AI без иллюзий: как бизнесу не потерять контроль над искусственным интеллектом

Каждый день мы создаем гигантские объемы данных, и искусственный интеллект учится обрабатывать их с невероятной скоростью. По оценкам экспертов, скорость обработки информации ИИ удваивается каждые семь месяцев. Это говорит не только о технологическом прорыве, но и о глубокой трансформации того, как мы общаемся, работаем и принимаем решения.

На мероприятии "AI-Driven, Human-Centered: новая эра бизнеса" Глобальный договор ООН в Украине провел небольшой эксперимент: мы предоставили участникам слайды с двумя изображениями животных, где одна картинка была взята из открытых источников, а другая — сгенерирована ИИ, и попросили определить, какая из них создана ИИ. Результат распознавания работы ИИ составил от 30 до 50%.

Это означает, что мы уже сейчас часто не способны отличить информацию, созданную ИИ, от реальной. Такая ситуация сама по себе не несет угрозы, но тот же подход может использоваться в целях пропаганды, терроризма или воздействия на молодежь.

ИИ уже сегодня пересекает границы этики: ИИ обучается на исторических данных, которые могут содержать предвзятость. Если такие модели не проверять и не корректировать, бизнес-решения, принятые на их основе, могут дискриминировать людей по расе, возрасту, полу или другим признакам. Например, алгоритмическая сортировка резюме уже сегодня иногда отсекает кандидатов из-за неточных или искаженных результатов оценки.

На что бизнесу стоит обратить внимание уже сегодня?

В этом году Глобальный договор ООН в Украине провел опрос среди украинского бизнеса о том, как именно компании используют искусственный интеллект в своей работе.

Опрос показал, что:

Менее половины респондентов проходили обучение по этическому использованию ИИ.

То есть значительная часть специалистов работает с ИИ без достаточных знаний о его потенциальном влиянии на права человека, предвзятость или дискриминацию. Это означает, что компании не имеют полной картины рисков и могут неосознанно допустить утечку конфиденциальной или чувствительной информации о своей компании и/или клиентах.

Лишь единичные компании проводят системную оценку влияния внедренных ИИ-решений на права человека;

Некоторые компании уже включают этические принципы ИИ в более широкие политики по правам человека или кибербезопасности.

Но большая часть респондентов отмечает, что не имеют никаких отдельных политик по использованию ИИ.

Хотя угроза ИИ может казаться неочевидной, она может стать реальностью в течение нескольких лет. Если не начать разрабатывать и соблюдать четкие правила, стандарты и механизмы контроля уже сейчас, возможности ИИ могут быть использованы против нас.

А есть ли стандарты и правила использования ИИ?

В 2024 году принят EU AI Act — акт, регулирующий безопасность, прозрачность и права человека в сфере ИИ в ЕС. Его требования касаются всех разработчиков ИИ, работающих на европейских рынках, независимо от страны происхождения.

Акт классифицирует системы искусственного интеллекта по разным категориям в зависимости от потенциальных рисков:

● Недопустимый риск. Использование таких систем запрещено согласно AI Act. К ним относятся системы, которые могут существенно нарушать права и свободы человека. Например, социальный скоринг — оценка людей на основе их социального поведения или личных качеств.

● Системы высокого уровня риска, которые согласно AI Act обязательно должны регулироваться и контролироваться человеком.

● Системы с ограниченным риском, на которые распространяются менее строгие нормы регулирования.

● Системы с минимальным риском.

Какие наказания? Достаточно строгие и дорогостоящие. Вот некоторые из них:

● За запрещенные практики ИИ (системы с недопустимым риском) предусмотрен штраф до 7% мирового годового оборота компании или до 35 млн евро (в зависимости от того, какая сумма больше).

● За нарушение других требований — штраф до 3% мирового годового оборота или до 15 млн евро.

Регулируется ли ИИ в Украине?

Летом 2024 года Минцифры представило "Белую книгу" — дорожную карту для будущего регулирования искусственного интеллекта в Украине. Документ предусматривает внедрение методологии оценки влияния ИИ на права человека, создание регуляторной песочницы для тестирования продуктов, запуск платформы юридической поддержки бизнеса, этического кодекса (который уже подписали 14 IT-компаний), а также Центра ответственного ИИ — онлайн-ресурса с инструментами, рекомендациями и новостями в сфере регулирования.

В то же время бизнес-среда отреагировала на документ негативно: ряд украинских CEO отметили, что в нем слишком мало конкретики.

Также топ-менеджеры IT-компаний подчеркнули, что брать в пример только опыт ЕС — односторонний подход. В то время как законодательство ЕС вводит многочисленные регуляции и высокие штрафы, недемократические страны ставят в приоритет развитие ИИ-технологий, а не защиту прав потребителей.

В перспективе AI-инструменты европейского рынка могут проиграть неконтролируемым и хорошо финансируемым разработкам в недемократических странах.

В "Белой книге" указано, что документ открыт для широкого обсуждения, а после сбора обратной связи от украинского бизнеса он будет доработан. Представители бизнеса, в свою очередь, выступают за сбалансированное регулирование ИИ, которое не убьет новые разработки, а поможет контролировать риски.

Что можно делать уже сегодня:

● Регулировать ИИ внутри команды

Также не менее важный этап — качественная коммуникация с командой обо всех возможных рисках: ваши сотрудники должны быть в курсе возможных последствий несоблюдения правил использования ИИ на рабочем месте.

● Анализировать, а не слепо следовать трендам

Не каждому бизнесу нужны AI-специалисты. По словам Игоря Филипенко из RBC Group, минимальная ИИ-команда может обходиться бизнесу в 100 000 евро в год. Прежде чем публиковать вакансии, подумайте, целесообразно ли на данном этапе привлекать AI-специалистов в вашу команду, или эти задачи может закрыть уже существующий отдел и сотрудники.

● Инвестировать в обучение

Одной переписки с ChatGPT недостаточно, чтобы быть в курсе последних новостей во вселенной искусственного интеллекта. Если вы планируете игру в долгую — имплементировать AI-решения в свои бизнес-процессы так, чтобы они приносили пользу, а не риски — инвестируйте в обучение себя и своей команды.

Таких возможностей на рынке много: недавно бесплатный курс по основам ИИ для украинцев провели в Google Украина — принять участие могли даже те, у кого нет технического образования и специальных навыков. В рамках ESG Academy от Глобального договора ООН в Украине можно будет ознакомиться с возможностями ИИ в оценке этих компонентов.