MY.UAНовини
Не всі системи ШІ мають бути однаково загальнодоступними – правознавець
Не всі системи ШІ мають бути однаково загальнодоступними – правознавець

Не всі системи ШІ мають бути однаково загальнодоступними – правознавець

Не всі системи ШІ мають бути однаково загальнодоступними – правознавець

За його словами, чим вмілішим стає ШІ, тим ближчий ризик катастрофи.

Не всі моделі штучного інтелекту (ШІ) повинні бути у вільному доступі. Чим здатнішим стає ШІ, тим ближче людство підходить до катастрофи. Таку думку висловив Лоуренс Лессіг — професор права та лідерства в юридичній школі Гарвардського університету та співзасновник Creative Commons у колонці для The Economist.

Він зазначає, що поява програмного забезпечення (ПЗ) з відкритим кодом, що було безкоштовним, стимулювало технічні інновації та поширення технічних навичок. Свобода користуватися програмним забезпеченням дозволила вивчитися безлічі молодих програмістів і лягла в основу бізнесів, які живлять цифрову економіку. Відповідно, здається природним безперешкодне поширення моделей ШІ.

Але Лессіг підкреслює, що між звичайним програмним забезпеченням та системами ШІ існує значна різниця. На його думку, ШІ – скоріше категорія, ніж технологія. Як і категорія «зброя», вона варіюється від відносно нешкідливої до потенційно катастрофічної. Рівень доступності до рогатки та «Стінгера» - різний. Так само має бути і з ШІ.

Він додає, що не є очевидним також, як у цьому випадку повинні застосовуватися норми вільного програмного забезпечення. Відкрите програмне забезпечення — це програмне забезпечення, вихідний код якого випускається за ліцензіями, які дозволяють іншим копіювати та змінювати код. Саме доступ до цього коду розповсюджує знання. Але моделі ШІ складаються як мінімум із чотирьох типів цифрових компонентів, тільки три з яких насправді є програмним забезпеченням. Четвертий – ваги моделі – є одночасно найпотужнішим і найнезрозумілішим.

Ваги моделі — це змінні чи числові значення, які використовуються для переведення вхідних даних у вихідні. Вони інкапсулюють усе, чого модель навчилася під час навчання. Наприклад, якщо навчання коштувало мільярд доларів, то ваги моделі відображають цю вартість. Якщо навчання коштувало тисячу доларів, то ці ваги будуть менш цінними.

Незрозуміло, який із цих компонентів має бути доступний усім, щоб відповідати критеріям програмного забезпечення з відкритим кодом.

Лессіг вважає, що всі чотири компоненти мають бути доступними, коли справа стосується моделей ШІ з обмеженими можливостями. Але ця логіка не повинна застосовуватися до високоефективних моделей, особливо коли йдеться про їхні ваги. Чому б не навчили ваги моделей, ця перевага має бути зіставлена з величезним ризиком неправильного використання, який представляють собою високоефективні моделі. В якийсь момент цей ризик буде занадто високим.

Лессіг зазначає, що Марк Цукерберг – засновник Facebook і творець Llama, найпотужнішого на сьогоднішній день релізу з відкритими вагами, вважає, що відкриті релізи «значно безпечніші, оскільки системи прозоріші і можуть бути ретельно вивчені». Правознавець зазначає, що невідомо, коли це станеться. І якщо проблема буде виявлена вже після релізу, немає полегшення в тому, що її виявлять відразу всі користувачі.

Він також звернув увагу на запевнення Цукерберга, що ваги моделей захищені від неправомірного використання. Але проведені дослідження свідчать, що цей захист легко зняти. У Llama 2 були обмеження, щоб користувачі не могли розгорнути його з неналежною або небезпечною метою. Але у 2023 році і менш ніж за 200 доларів команда з Palisade Research змогла відключити їх та створити необмежену версію Llama 2.

І моделі з відкритими вагами можуть стати все більш небезпечними в міру того, як їх базові моделі стають все більш потужними, а методи зняття обмежень – все складнішими.

За словами Лессіга, справа не лише в тому, що релізи з відкритими вагами можуть бути перехоплені. Основний ризик пов'язаний із тим, що після релізу їх уже не можна відкликати. І ризики залежать від регулюючих можливостей інфраструктури, в якій працює ШІ.

Приватні компанії, які конкурують одна з одною, недостатньо стимульовані для того, щоб уникнути ризику катастрофи. Не допоможе і проста заборона створення ШІ з відкритим кодом. Необхідно створити середовище, в якому можна буде розробляти безпечний ШІ, та регулююче судження, щоб визначати, коли суспільний ризик стає надто високим.

У травні Рада Європи погодила Конвенцію про штучний інтелект, що стала першим прикладом міжнародно-правого документа, який має обов'язковий характер. Кандидат юридичних наук Сергій Козьяков пояснив, чому це важливо.

Поділитися
Поділитися сюжетом
Джерело матеріала
Згадувані персони
Украинские военные начали массово сдаваться в плен: что известно
Comments UA
2024-11-16T20:00:53Z
Ситуация резко изменилась: что происходит в Купянске после визита Зеленского
Comments UA
2024-11-19T15:18:34Z
В Киеве пробки на дорогах и коллапс в метро
Апостроф
2024-11-21T07:00:32Z
Кличко сообщил подробные последствия атаки по Киеву
Comments UA
2024-11-17T08:54:06Z
Россия пыталась прорвать оборону в Запорожье: начальник Генштаба рассказал о последствиях
TSN
2024-11-24T20:06:35Z
Россия готовит масштабное наступление на Запорожье: на Западе узнали подробности
Comments UA
2024-11-24T19:57:41Z
В Севастополе подорвали авто капитана первого ранга Черноморского флота РФ. Тот не выжил
ZN UA
2024-11-13T11:27:00Z
Россияне топчутся на собственных труппах: что происходит под Купянском
Comments UA
2024-11-12T14:21:04Z
Солдаты все чаще попадают в окружение: кто должен понести наказание
Comments UA
2024-11-21T20:09:57Z
Молодой фаворитке Путина доверили важное культурное мероприятие в России
Comments UA
2024-11-21T19:57:44Z
Китай отреагировал на удар баллистической ракетой России по Украине
Comments UA
2024-11-22T13:57:41Z
Нарушит еще одну традицию: Мелания Трамп не переедет за мужем в Белый дом
Фокус
2024-11-13T14:35:03Z
Три года до нового удара России: предупреждение Залужного
Comments UA
2024-11-23T12:54:41Z
ЦПД: Военные КНДР участвуют в боевых действиях в составе армии РФ под видом бурятов и тувинцев
ZN UA
2024-11-24T20:09:07Z
Пойдет ли Путин на мирные переговоры: что известно
TSN
2024-11-24T20:06:33Z
«Не дай Бог» — Лукашенка рассказал, кого нельзя избирать президентом
ZN UA
2024-11-14T22:02:11Z
Маск цинично унизил всех украинцев: что немедленно должна сделать Банковая
Comments UA
2024-11-18T09:03:21Z
Усиление кровавого террора: сколько еще времени Путин будет устраивать украинцам ад
Comments UA
2024-11-18T12:39:58Z
На фоне слухов о проблемах в браке одинокую Пугачеву поймали во время прогулки
Comments UA
2024-11-11T21:51:15Z
В России умерла звезда фильма "Бриллиантовая рука"
Comments UA
2024-11-16T14:42:23Z
Врачи не давали сроков: любимица публики Ада Роговцева оказалась в больнице
GlavRed
2024-11-14T17:06:51Z
"Такой п**дец, а ты чипсики рекламируешь": ведущий "Орла и решки" рассказал о разговоре с Ивлеевой после вторжения РФ
Апостроф
2024-11-19T09:48:42Z
У звезды сериала "Острые козырьки" появился двойник: сколько он зарабатывает
Фокус
2024-11-24T19:12:08Z
На пике моды: какие ботильоны носить зимой 2024/25 — полный список
Marie Claire
2024-11-24T18:03:00Z
Тринчер сравнили с россиянкой Бузовой из-за поведения на интервью/Певица ответила на вопросы интервьюера после своего выступления
Апостроф
2024-11-19T10:39:25Z
В Facebook сообщили о смерти Виктора Павлика: жена выдала гневную тираду
GlavRed
2024-11-19T16:45:44Z
"От греха подальше...": беременная жена Остапчука разделась, и заявила, что делает "заначки"
Знай
2024-11-16T18:51:26Z
Найден самый ранний признак деменции: многие с ним сталкиваются, и не один раз
Фокус
2024-11-11T09:51:52Z
Дайте мозгу отдохнуть: 5 упражнений для улучшения психического здоровья
Фокус
2024-11-24T12:45:51Z
Женщины, которые стареют медленнее всех: 6 здоровых привычек датчанок
Фокус
2024-11-16T15:00:35Z
Формула "10-3-2-1-0": ученые вывели беспроигрышное уравнение для здорового сна
Фокус
2024-11-13T10:36:35Z
Даже холодной зимой: почему спать при включенном отоплении категорически не следует
Фокус
2024-11-24T19:42:43Z
Реформа МСЭК: как пройти пересмотр инвалидности по новым правилам
Хвиля
2024-11-24T17:48:48Z
Состарит, убьет потомство и разовьет рак: ученые раскрыли новые опасности курения марихуаны
Фокус
2024-11-15T19:51:31Z
«Они совсем не темнеют»: простой лайфхак, чтобы хранить авокадо неделями
Marie Claire
2024-11-21T03:04:10Z
Что предлагают вместо МСЭК: от анонимности пациента до видеофиксации и индивидуальных экспертов
Комсомольская правда
2024-11-19T06:02:12Z
Перес раскритиковал обновленный формат Лиги чемпионов и увеличение количест
Корреспондент
2024-11-24T17:00:03Z
"Боже, какой я была глупой": Ярослава Магучих изменила свои планы по рождению ребенка
Апостроф
2024-11-12T19:06:04Z
Находился в коме: стали известны подробности смерти боксера Вячеслава Узелкова
Комсомольская правда
2024-11-12T10:12:13Z
"Им запретили делать это": раскрыто скандальное условие боя Тайсон - Пол
Корреспондент
2024-11-19T15:36:14Z
"Сенсационное событие": Всемирный боксерский совет назвал соперника Усика после боя-реванша с Фьюри
Фокус
2024-11-24T20:03:03Z
Реал без Луніна розібрався з Леганесом
Football.ua
2024-11-24T19:33:07Z
Довбик попал в перекладину: "Рома" с новым тренером проиграла лидеру чемпионата Италии
TSN
2024-11-24T19:21:52Z
Севілья здолала Райо Вальєкано
Football.ua
2024-11-24T17:39:45Z
Перес: Я настроен относительно проекта Суперлиги оптимистичнее чем когда-ли
Корреспондент
2024-11-24T15:12:31Z
Сон на работе принес мужчине $48 тысяч
Фокус
2024-11-24T15:36:01Z
Украинцы в Норвегии лишатся приюта и защиты: что известно о новых правилах
Comments UA
2024-11-16T19:15:52Z
В Кривом Роге прощаются с погибшей семьей - Еленой Кулик и ее детьми
Апостроф
2024-11-14T13:54:53Z
В Ассоциации городов заявили об оттоке украинцев на оккупированные территории
Корреспондент
2024-11-12T17:58:17Z
Украинцы могут вернуть деньги за обучение: как воспользоваться налоговой льготой
Знай
2024-11-24T20:12:31Z
В Дії появится опция получения и продления разрешений на владение оружием
Апостроф
2024-11-24T20:00:07Z
На семью - 18 500 гривен: украинцев регистрируют на новые "зимние" выплаты
Знай
2024-11-15T04:21:06Z
Женщина сделала ДНК-тест: как выяснилось, ее бабушка забрала с собой в могилу секрет
Фокус
2024-11-12T15:27:38Z
Российская ракета, которая упала на дома в Одессе, была сбита ПВО, — Воздушные силы
Комсомольская правда
2024-11-18T14:40:19Z
Почему в Украине стремительно растут цены: банкир Фурса ошарашил ответом
Comments UA
2024-11-12T15:18:16Z
Украинцы могут платить за тепло по "копеечному" тарифу: но есть условие
Знай
2024-11-16T20:12:25Z
В Украине могут установить ветряные турбины общей мощностью 800 МВт: что известно
Фокус
2024-11-18T17:23:42Z
Отменены графики отключений света в некоторых регионах
Известия Киев
2024-11-19T18:33:42Z
Польские фермеры прекратили блокировку пункта пропуска на границе с Украиной
Комсомольская правда
2024-11-24T19:25:28Z
На что пойдут деньги в бюджете на 2025 год
TSN
2024-11-24T19:06:54Z
Цитрусовый ценопад: мандарины, апельсины и лимоны становятся доступнее
Знай
2024-11-18T11:12:37Z
Платежка может вырасти: сколько придется платить за газ в декабре
Знай
2024-11-18T08:07:12Z
Кабмин в очередной раз перенес повышение зарплат учителям
Апостроф
2024-11-12T14:04:44Z
Норвежские рыбаки "поймали" в свои сети американскую атомную субмарину
Европейская правда
2024-11-15T12:58:02Z
Российский удар по Киеву: спасатели показали последствия
Апостроф
2024-11-17T07:15:11Z
Среди жертв российского удара по Сумам – 14-летняя Анастасия Боровик
Комсомольская правда
2024-11-18T10:52:24Z
Очевидец о ракетном ударе в Одессе: взрыв был в 15 метрах от нас
Comments UA
2024-11-18T11:15:47Z
Убийца из киевского отеля пойман
VGorode
2024-11-24T19:09:42Z
Проснулся на похоронном костре: мужчину чуть не подожгли по индуистскому обряду – детали
TSN
2024-11-24T19:06:27Z
Дания задержала китайское судно по подозрению в повреждении кабелей
Корреспондент
2024-11-20T19:00:44Z
Под Парижем владелец ресторана захватил заложников в своем заведении
Фокус
2024-11-16T19:54:36Z
В Киеве диверсанты заминировали квартиру и вызвали полицию: есть погибший
Новости Украины
2024-11-24T18:57:56Z
Срочно делайте, иначе останетесь без винограда: бюджетные средства обработки лозы
Знай
2024-11-12T16:51:31Z
Голубцы с булгуром, вкуснее обычных: судья "Мастер Шеф" дала простой рецепт
Политека
2024-11-19T04:00:53Z
Гороскоп на завтра 14 ноября: Львам - сюрпризы, Весам - большая удача
GlavRed
2024-11-13T07:28:09Z
Любовный гороскоп для всех знаков Зодиака на неделю с 18 по 24 ноября 2024 года
Фокус
2024-11-17T23:15:40Z
Всем нужно готовиться, ведь осталось несколько недель: чем опасен 2025 год Зеленой Змеи
Знай
2024-11-24T19:51:59Z
Как почистить духовку до блеска: 6 лайфхаков перед праздничным сезоном, которые сэкономят время
Marie Claire
2024-11-24T18:31:23Z
Как спасти пересоленное блюдо – помогут бабушкины советы/Ситуацию можно исправить!
Апостроф
2024-11-18T11:12:39Z
Идеальное решение: пара пенсионеров решила переехать жить на лайнер вместо покупки дома
Фокус
2024-11-24T18:21:11Z
Гром среди ясного неба: почему мы влюбляемся в других, когда кажется, что в текущих отношениях все хорошо
Marie Claire
2024-11-24T16:09:22Z
Авторы The Invincible представили антибоевую ролевую игру Dante's Ring — выходит в 2025 году
GameMag
2024-11-24T13:16:07Z
Семейная традиция Комонов: ученые обнаружили следы бальзамирования на телах французских аристократов
Фокус
2024-11-18T11:45:32Z
"Пожалуйста, умри": искусственный интеллект устал от вопросов и нахамил пользователю
Фокус
2024-11-14T15:06:56Z
ПриватБанк упростил оплату через Apple Pay: какие новые функции появились
Знай
2024-11-24T19:21:27Z
СМИ: GeForce RTX 5090 будет очень дорогой — NVIDIA попросит за новую флагманскую видеокарту не менее 1900 долларов
GameMag
2024-11-24T17:18:40Z
EA закроет серверы MMA-симулятора EA Sports UFC 3
GameMag
2024-11-24T17:06:42Z
Создатели хоррора The Callisto Protocol приступили к работе над новым проектом на Unreal Engine 5 — будет кооператив
GameMag
2024-11-24T17:06:36Z
Первый патч для S.T.A.L.K.E.R. 2: Heart of Chornobyl пообещали выпустить на следующей неделе
GameMag
2024-11-24T17:02:36Z
Как найти потерявшийся смартфон Android: 3 способа, которые помогут пользователям
Фокус
2024-11-24T17:00:35Z
Лайфхаки для зимы: как быстро очистить лобовое стекло от льда
Comments UA
2024-11-19T01:00:21Z
Миллионы на тачки: топ элитных авто таможенников, бросающихся в глаза всем
TSN
2024-11-24T18:21:09Z
Заправлять машину лучше в это время суток: 4 правила для автомобилей на газе
UAToday
2024-11-24T12:33:32Z
Ферстаппен отреагировал на завоевание чемпионского титула
Корреспондент
2024-11-24T10:12:53Z
Старая классика с новой начинкой: в Украине маршрутчикам показали электрический "Спринтер"
Знай
2024-11-24T08:51:43Z
Выдержит до -40°С: Китай представил новую натрий-ионную батарею для электромобилей
Фокус
2024-11-23T15:00:02Z
Яркий киногерой: на аукцион выставили спортивное авто знаменитого шпиона
Фокус
2024-11-23T09:36:59Z
За американский автомобиль могут отобрать права: на что обратить внимание
Знай
2024-11-22T17:21:14Z
В Японии запускают в производство необычный гибрид Honda Civic и Dodge Challenger
Фокус
2024-11-22T11:15:38Z