«Батько інтернету» Вінтон Серф: про головні ризики АІ та міжпланетний інтернет

Стрімкий розвиток генеративних технологій та автономних систем ставить перед сучасним суспільством фундаментальне питання: як утримувати контроль над цифровим середовищем, де межа між людиною та машиною стає дедалі розмитішою?

У розлогій аналітичній розмові на YouTube-каналі This Is The World журналіст Метт Кавецький обговорив з одним із головних архітекторів сучасного цифрового світу, співавтором протоколу TCP/IP Вінтоном Серфом, загрози автономного АІ, майбутнє глобальної інфраструктури, проблеми збереження інформації та концепцію міжпланетного інтернету.

Тест Тюрінг-2: чому штучний інтелект не має імітувати людину

Сучасний етап розвитку штучного інтелекту демонструє зміщення акцентів від класичного тесту Тюрінга до нової виправданої потреби — розробки концепції «Тюрінг-2». Якщо в оригінальному тесті людина намагалася розпізнати комп'ютер, то сьогодні вже комп'ютерні системи змушені визначати, чи є їхній співрозмовник людиною. Розрізняти ці сутності стає все складніше, що створює передумови для серйозних маніпуляцій.

Фундаментальна проблема полягає в тому, що сучасні АІ-системи моделюють людську поведінку та використовують займенник «Я» у діалогах. Коли машина каже «Я вважаю», у користувача виникає підсвідома тенденція проєктувати на алгоритм людську свідомість, досвід, моральні рамки та обмеження. Проте штучний інтелект не володіє людським досвідом, а суспільство досі не має дієвих механізмів впливу або дисциплінування алгоритмів.

Якщо дитину можна позбавити певних привілеїв (наприклад, доступу до смартфона чи інтернету), то для штучного інтелекту подібних стимулів або покарань просто не існує. Відсутність важелів мотивації робить спроби надати машинам статус суб'єкта надзвичайно небезпечними.

Агентний АІ та загрози міжмашинного непорозуміння

Еволюція штучного інтелекту в напрямку агентних систем (Agentic AI), здатних діяти автономно, створює нові інженерні та юридичні виклики. На відміну від простих чат-ботів, автономні агенти отримують доступ до реального світу: вони можуть витрачати гроші, бронювати послуги, укладати угоди та ухвалювати транзакційні рішення.

Коли агенти, побудовані на базі різних фундаментальних моделей, взаємодіють між собою за допомогою природної мови, виникає високий ризик неоднозначності інтерпретацій. Непорозуміння в ланцюжку міжмашинних комунікацій здатне призвести до фінансових та операційних збоїв із реальними наслідками для бізнесу та людей.

Вирішення цієї проблеми лежить у трьох площинах:

Створення незаперечних аудиторських слідів (audit trails), які матимуть юридичну силу в суді.
Запровадження чіткої персональної та корпоративної відповідальності: неможливо покласти провину на програмне забезпечення, відповідачем завжди має бути юридична або фізична особа.
Вироблення єдиних стандартів взаємодії між агентами від різних розробників.

Ринок праці та штучний інтелект: зростання продуктивності

Апокаліптичні прогнози щодо тотального безробіття через впровадження АІ не мають під собою історичних підстав. Поточні процеси повністю повторюють попередні промислові революції: певні професії зникають або трансформуються, але натомість виникають нові ринки праці.

Поява Всесвітньої павутини свого часу створила професію вебменеджера, а сучасний розвиток нейромереж згенерував попит на промпт-інженерів. Основний ефект від автоматизації полягає не у масовому вивільненні кадрів, а у стрибку продуктивності праці.

Слід опиратися на концепцію Дугласа Енгельбарта, сформульовану ще у 1950-х роках: штучний інтелект є засобом підсилення людського інтелекту (Augmenting Human Intellect), а не його повноцінною заміною. Інтернет і АІ перевершують людські можливості в швидкості обробки та обсягах пам'яті, проте залишаються лише інструментами.

Еволюція АІ: від евристичних систем до трансформаторів

Історія досліджень штучного інтелекту, за якою Вінтон Серф спостерігає з 1961 року (після введення терміна Джоном Маккарті на Дармутській конференції 1956 року), пройшла кілька хвилеподібних циклів розвитку та занепаду («зим АІ»):

1. Евристичне програмування (1950–1960-ті): спроби створити алгоритми, які вирішували завдання без гарантії точного результату. Вони демонстрували цікаві результати, але не піддавалися масштабуванню.
2. Експертні системи (1970–1980-ті): побудова тисяч логічних конструкцій виду «якщо-тоді-інакше». Зі зростанням бази знань правила вступали у внутрішні суперечності, що призвело до глухого кута.
3. Трансформаторні архітектури (з 2010-х): прорив, викликаний роботами Google та DeepMind (зокрема дослідженням «Attention Is All You Need»), що дозволив нейромережам досягти вражаючих результатів у генерації тексту, коду та медіафайлів.

Попри очевидний прогрес, сучасні великі мовні моделі мають суттєве обмеження: вони не здатні до рекурсивного навчання в режимі реального часу на основі щоденного досвіду. На відміну від людини, яка вчиться щосекунди, АІ спирається лише на зафіксований масив даних та контекстне вікно, створюючи лише ілюзію постійного розвитку.

Загроза цифрового темного століття: чому варто друкувати фото

Серйозним системним викликом для сучасної цивілізації є збереження цифрової спадщини (проєкт Digital Vellum). Носії інформації, сформовані у XXI столітті, виявляються значно менш тривкими за стародавні аналоги:

Пергаментні рукописи зберігаються понад 2000 років.
Глиняні таблички після випалу живуть понад 6000 років.
Магнітні стрічки, CD, DVD, Blu-ray та флешнакопичувачі втрачають дані вже через 20–30 років.

Окрім фізичної деградації носіїв, існує проблема інтерпретації бітів. Для зчитування цифрового файлу потрібне відповідне програмне забезпечення, операційна система та апаратна архітектура. Без підтримки середовища виконання дані стають недоступними.

Щоб запобігти виникненню «цифрового темного століття» у XXII столітті, найважливіші матеріали та сімейні фотографії доцільно друкувати на високоякісному папері, оскільки це гарантує збереження інформації щонайменше на 150 років.

Історія розгортання інтернету: від ARPANET до вибуху браузерів

Створення мережі TCP/IP розпочалося у 1973 році спільно з Бобом Каном. У той час розробка сприймалася суто як науковий експеримент, тому для протоколу IPv4 було обрано 32-бітний адресний простір, що забезпечував близько 4,3 мільярда унікальних адрес. Для середини 1970-х років ця цифра перевищувала населення Землі.

Розуміння потенціалу комерціалізації мережі прийшло у 1988 році на виставці Interop у Сан-Франциско, де компанія Cisco виставила триповерховий стенд вартістю 250 тисяч доларів. На той момент у США діяли суворі правила допустимого використання (Appropriate Use Policy), які забороняли комерційний трафік у державних наукових мережах (ARPANET, NASA Science Internet, DOE ESNet, NSFnet).

Для зняття обмежень у 1988 році було ініційовано експериментальне підключення комерційної поштової системи MCI Mail до інтернету. Це змусило інших провайдерів (Telemail, OnTyme) вимагати аналогічного доступу. Уже восени 1989 року з'явилися перші комерційні інтернет-провайдери: PSINet, UUNET та CERFnet. Запуск графічного браузера NCSA Mosaic у 1993 році (розробленого Марком Андрессеном та Еріком Біною) остаточно перетворив мережу на глобальний масовий продукт.

Ключові історичні рішення та компроміси архітектури:

Заміна IPv4 на IPv6: У 1992 році IETF розпочала розробку нового стандарту з 128-бітним адресуванням (3,41038 адрес), щоб подолати дефіцит IP-адрес.
Шифрування та безпека: Концепція криптографії з відкритим ключем (опублікована Уітфілдом Діффі та Мартіном Хеллманом у 1976 році) не була інтегрована на початковому етапі через відсутність готового софту та специфіку перших користувачів — студентів та дослідників, для яких управління ключами було надто складним завданням.

Міжпланетний інтернет: як протокол DTN працює на Марсі та Землі

Після успішної посадки марсохода Sojourner у 1997 році у межах місії Pathfinder, Лабораторія реактивного руху (JPL) розпочала розробку мережевої архітектури для космосу. Класичні протоколи TCP/IP виявилися непридатними для міжпланетних відстаней через тривалий час затримки сигналу (до 40 хвилин затримки круглого ходу до Марса і 24 години в один бік до апаратів Voyager 1 і Voyager 2) та постійні розриви зв'язку через обертання планет.

Для вирішення цих завдань було створено стек протоколів Bundle Protocol у межах технології DTN (Delay and Disruption Tolerant Networking). Цей стандарт адаптований до умов високих затримок та переривчастого з'єднання.

Технологія DTN знайшла практичне застосування і на Землі. Зокрема, народ саами на півночі Швеції використовує DTN-протоколи, датчики GPS та радіопередавачі для моніторингу оленячих стад у умовах нестабільного покриття супутниковим та мобільним зв'язком.

Зростання комерційної активності в космосі ставить нові юридичні виклики. Договір про космос 1967 року забороняє національне присвоєння позаземних територій, однако приватні компанії вже готуються до видобутку ресурсів на Місяці. Це вимагатиме перегляду міжнародних правових норм та створення публічних реєстрів міжпланетних агентів і мережевої інфраструктури.

Майбутнє штучного інтелекту: чому критичне мислення врятує світ

Попри поширення генеративного шуму («AI slop»), штучний інтелект демонструє високу цінність у наукових дослідженнях. Моделі виступають асистентами для физиків та дослідників при обробці складних експериментальних даних. Головна вимога до користувача в епоху АІ — розвинуте критичне мислення та скептицизм, оскільки алгоритми звучать однаково переконливо як у випадку коректних відповідей, так і під час галюцинацій.

Найбільшим ризиком для людства залишається людська зарозумілість — хибна переконаність у тому, що цивілізація здатна подолати будь-які кризи без зміни власної поведінки. Нездатність усвідомити експоненційні процеси, такі як зміна клімату чи безконтрольний розвиток технологій, становить більшу загрозу, ніж самі алгоритми. Інструменти можна відрегулювати та обмежити законодавчо, але готовність критично оцінювати власні дії залишається єдиною умовою виживання людського виду.

Поділитися

Поділитися сюжетом

Джерело матеріала

InternetUA

Оригінальна версія

Не спешите включать батареи: эксперт предупредила о скрытых проблемах