Небезпечні інциденти через довіру до штучного інтелекту під час гірських сходжень у США

Використання чат-ботів на базі штучного інтелекту для планування гірських походів призводить до небезпечних ситуацій у США. Туристи часто потрапляють у пастки через алгоритмічні помилки і використовують підроблені карти.

Небезпечні випадки

За даними видання Business Insider та Лісової служби США, нещодавно сталося щонайменше три інциденти, пов'язані з надмірною довірою до штучного інтелекту. Найсерйозніший випадок стався з групою молодих альпіністів на горі Шаста, висота якої становить 14 000 футів.

Група, що складалася з трьох 20-річних альпіністів, планувала свій маршрут за допомогою Google Gemini, YouTube та додатка AllTrails. Чат-бот оцінив, що похід займе 8 годин, тому туристи взяли з собою обмежену кількість їжі та води. Однак фактичний підйом тривав 16 годин, і група досягла вершини о 19:00, коли вже сутеніло.

Під час спуску один із альпіністів травмував коліно, а його смартфон з навігацією вимкнувся. Туристам довелося ночувати на схилі без належного спорядження, поки їх не евакуювали рейнджери наступного ранку.

Систематичні порушення

Рейнджери зазначають, що штучний інтелект також призводить до менш серйозних, але постійних порушень. Наприклад, один турист розбив табір під знаком заборони, аргументуючи це рекомендацією ChatGPT. Інший альпініст надав рятувальникам карту, створену штучним інтелектом, яка показувала неправильні маршрути.

Розробники технологій, такі як OpenAI та Google, попереджають, що їхні моделі можуть помилятися, тому інформацію, що стосується безпеки, слід перевіряти в офіційних джерелах. Експерти підкреслюють, що великі мовні моделі не є геоінформаційними системами реального часу і не враховують актуальні погодні умови, рельєф та фізичну підготовленість користувачів.

Джерело: dev.ua (https://dev.ua/news/turysty-v-ssha-hubliatsia-v-horakh-cherez-haliutsynatsii-ai-1788680835)