"Отруєні" моделі ШІ несуть реальну загрозу людям: чим вони небезпечні

Як зазначає Tech Xplore, втручаючись у роботу ШІ, групи зловмисників потенційно можуть змусити безпілотний автомобіль ігнорувати червоне світло світлофорів або спричинити збої в електромережі, спровокувавши відключення світла.

Щоб захиститися від "отруєння" даних під час навчання ШІ, група вчених кібербезпеки FIU об'єднала дві нові технології — федеративне навчання і блокчейн. Цей метод успішно виявляє і видаляє помилкові дані, перш ніж вони скомпрометують навчальні набори даних.

"Ми створили метод, який може знайти безліч застосувань для забезпечення стійкості критичної інфраструктури, кібербезпеки на транспорті, охорони здоров'я і багато чого іншого", — заявив Хаді Аміні, провідний науковий співробітник і доцент FIU у Школі обчислювальної техніки та інформаційних наук Knight Foundation.

Федеративне навчання передбачає використанням міні-версії моделі навчання, яка навчається безпосередньо на пристрої та ділиться лише оновленнями (не персональними даними) з глобальною моделлю на сервері компанії. Попри збереження конфіденційності, ця техніка вразлива для атак з "отруєнням" даних.

Щоб пом'якшити цей недолік, дослідники вирішили впровадити блокчейн, відомий завдяки своїй ролі в криптовалюті. Це загальна база даних, розподілена по мережі комп'ютерів. Усі дані зберігаються в блоках, пов'язаних хронологічно в ланцюжку. Кожен блок має свій власний відбиток, а також відбиток попереднього блоку, що робить його захищеним від несанкціонованого доступу.

Вчені використовували це під час розроблення своєї моделі навчання. Вона порівнювала оновлення блоків, обчислюючи, чи були оновлення-викиди "отруєними". Потенційно "отруйні" оновлення записувалися, а потім відкидалися з мережевої агрегації.

"Наша команда тепер тісно співпрацює зі співробітниками Національного центру транспортної кібербезпеки та стійкості, щоб використовувати передове квантове шифрування для захисту даних і систем. Наша мета — забезпечити безпеку і захищеність транспортної інфраструктури Америки, одночасно використовуючи можливості передового ШІ для поліпшення транспортних систем", — зазначив Аміні.

Нагадаємо, китайський чат-бот DeepSeek зі штучним інтелектом (ШІ) склав план із п'яти пунктів зі встановлення контролю над людством і ухвалення "Конституції нового цифрового порядку".