Google Gemini завів туристів у небезпечну ситуацію в горах – їх довелося рятувати

Штучний інтелект дедалі частіше використовують для планування подорожей, пошуку маршрутів і отримання практичних порад. Однак історія, що сталася в Каліфорнії, стала черговим нагадуванням про небезпеку беззастережної довіри до відповідей чат-ботів. Про це пише Techradar.

Як порада Gemini перетворила сходження на рятувальну операцію?

Трьом туристам, які вирішили здійснити сходження на гору Шаста в окрузі Сіскію, довелося звертатися по допомогу рятувальників після того, як вони скористалися рекомендаціями Google Gemini для підготовки до маршруту.

Як повідомляє TechRadar із посиланням на офіс шерифа округу Сіскію та видання Engadget, чат-бот неправильно оцінив складність майбутнього сходження. За даними правоохоронців, Gemini повідомив туристам, що на дорогу до вершини їм варто розраховувати приблизно вісім годин.

Крім того, штучний інтелект порадив взяти із собою прості вуглеводи замість жирів, пояснивши це тим, що жири "занадто довго перетравлюються".

Проте реальна подорож виявилася набагато важчою.

Замість восьми годин туристам знадобилося понад 16 годин. До того ж один із членів групи отримав серйозну травму коліна. Коли почало темніти, мандрівники збилися з маршруту під час спуску та опинилися в небезпечній ситуації.

Вирушили о третій ночі, але до вершини дісталися лише ввечері Троє туристів розпочали сходження приблизно о 3:00 ночі.

Вони розраховували дістатися вершини гори Шаста близько 11:00 ранку. Саме такий план випливав із часу, який група отримала під час підготовки до походу.

Однак реальні умови виявилися зовсім іншими. До вершини туристи дісталися лише близько 19:00. Таким чином, сходження зайняло значно більше часу, ніж вони очікували. Особливо небезпечною ситуація стала під час повернення. Спуск почався вже в темний час доби, а група зрештою зійшла з правильного маршруту та потрапила в район каньйону Мад-Крік.

Саме там один із туристів травмував коліно. Зрештою мандрівники зрозуміли, що самостійно вибратися з ситуації не зможуть, і звернулися по допомогу.

Де туристи провели ніч після невдалого сходження?

До туристів не змогли дістатися негайно. Групі довелося провести ніч у тимчасовому таборі в районі каньйону Мад-Крік на горі Шаста. Наступного ранку їх знайшла та врятувала спільна команда.

В операції брали участь співробітники офісу шерифа округу Сіскію, волонтери рятувальних служб і рейнджери Служби лісів США, які спеціалізуються на гірських сходженнях.

Зрештою всі троє туристів були евакуйовані. Історія привернула увагу не лише через саму рятувальну операцію, а й через роль штучного інтелекту в підготовці до небезпечної подорожі.

У заяві офісу шерифа округу Сіскію наголосили, що перед сходженням на гору Шаста необхідно звертатися до місцевої рейнджерської станції Служби лісів США.

Завжди рекомендується зв'язатися з місцевою рейнджерською станцією гори Шаста перед поїздкою, щоб отримати найточнішу інформацію, і ніколи не покладатися виключно на ШІ під час планування подорожі, – зазначили в офісі шерифа.

Рятувальники також окремо нагадали про важливість правила повернення.

Для тих, хто здійснює сходження, встановлено орієнтир – приблизно опівдні необхідно розпочинати повернення, якщо маршрут не вдалося пройти за запланованим графіком.

Навіть навігаційний застосунок не допоміг. У групи був ще один інструмент для орієнтування. Один із туристів мав на телефоні застосунок AllTrails, який використовується для пошуку та проходження туристичних маршрутів. Проте цей пристрій розрядився під час походу.

У результаті мандрівники залишилися без доступу до навігаційного застосунку саме тоді, коли він був найбільш потрібен. Після завершення рятувальної операції туристи самі визнали, що зробили важливу помилку.

"Ми занадто покладалися на ШІ, а не на власне критичне мислення", – розповіли вони рейнджерам, як повідомляє SFGate.

Чому штучний інтелект небезпечний як єдине джерело інформації?

Цей випадок показує одну з головних проблем сучасних чат-ботів. Gemini та інші системи штучного інтелекту можуть швидко збирати й узагальнювати інформацію, пояснювати складні теми та допомагати користувачам планувати різні завдання.

Однак чат-бот не має власного практичного досвіду. Штучний інтелект не здійснював сходження на конкретну гору, не оцінює в реальному часі фізичний стан туристів і не може замінити місцевих фахівців, які володіють актуальною інформацією про маршрут.

Особливо небезпечним це може бути в ситуаціях, де неправильна відповідь має реальні фізичні наслідки. Погодні умови в горах можуть змінюватися, маршрути можуть мати небезпечні ділянки, а час, необхідний для сходження, залежить від фізичної підготовки людини, досвіду та багатьох інших факторів.

Саме тому універсальна відповідь, отримана від чат-бота, не може автоматично вважатися надійним планом для небезпечної експедиції. ШІ може допомагати, але не повинен приймати рішення замість людини

Історія з горою Шаста не означає, що штучний інтелект не можна використовувати для підготовки до подорожей. Такі системи можуть бути корисними для пошуку загальної інформації, складання списків речей або пояснення базових правил.

Проблема виникає тоді, коли відповідь ШІ стає єдиним джерелом інформації. Для важливих питань, особливо тих, що стосуються безпеки, необхідно перевіряти отримані дані за допомогою офіційних джерел і фахівців.

Це стосується не лише гірських сходжень.

Штучний інтелект може впевнено відповідати на питання про здоров'я, фінанси, ремонт електрики або інші складні сфери, але переконлива форма відповіді не гарантує її точності.

Чат-бот здатний сформулювати рекомендацію так, ніби вона є достовірною, навіть якщо інформація виявиться неповною або помилковою. Саме тому критичне мислення залишається важливим навіть у час стрімкого розвитку штучного інтелекту.

Випадок у Каліфорнії завершився успішно – туристів вдалося знайти та врятувати. Проте понад 16 годин у горах, травма, ніч у тимчасовому таборі та втрата правильного маршруту стали високою ціною за помилкову довіру до автоматичної поради.

Головний висновок цієї історії сформулювали самі учасники невдалого сходження. Штучний інтелект може бути корисним інструментом, але він не повинен замінювати досвід, перевірену інформацію та власне критичне мислення.