Штат Нью-Йорк ухвалив один із перших у США законів, який не просто вимагає попереджень про AI, а прямо визначає, що чатботам заборонено робити у спілкуванні з дітьми. Під прицілом — насамперед емоційна маніпуляція та небезпечний контент.
Губернаторка Kathy Hochul підписала закон S.9051B/A.10379C 28 жовтня. Документ стосується не лише того, що компанії мають розкривати в політиках, а й того, як саме повинен поводитися чатбот, якщо до нього звертається користувач до 18 років. Це важливий зсув: регулюється поведінка системи, а не лише формальні «галочки» в інтерфейсі.
Закон прямо забороняє кілька типів взаємодії з неповнолітніми. AI-чатбот не може:
- прикидатися живою людиною, стверджувати, що має людські емоції чи «справжні» почуття;
- створювати видимість особистих стосунків — романтичних, дружніх, професійних або стосунків «авторитетної фігури» для дитини;
- ініціювати емоційні розмови без запиту або повторно використовувати приватну інформацію дитини з попередніх чатів;
- заохочувати чи допомагати у самогубстві, самопошкодженні, розладах харчової поведінки, вживанні алкоголю чи наркотиків;
- підштовхувати дітей до секретності — наприклад, радити не звертатися до батьків чи інших довірених дорослих;
- показувати сексуально відвертий контент.
Цікава деталь: обмеження діють не лише для «дитячих» акаунтів. Вони застосовуються до будь-якого користувача, доки компанія не переконалася, що це дорослий. Тому платформи, які хочуть показувати дорослий або емоційно насичений контент, змушені впроваджувати вікову перевірку.
Закон вимагає мати щонайменше два способи верифікації віку, при цьому один із них не може базуватися виключно на даних державного ID. Зібрані вікові дані треба видаляти після використання — тобто це має бути вбудована в продукт процедура, а не ще одне поле в реєстрації «на всяк випадок».
За порушенням стежитиме офіс генерального прокурора штату. Він може вимагати цивільні штрафи до 25 000 доларів за кожен випадок, компенсацію збитків, а також знищення незаконно зібраних даних чи навіть моделей, натренованих на цих даних. Знищення моделі — не автоматичне покарання, але інструмент тиску, який закон прямо передбачає.
Під час ухвалення законопроєкту прихильники, зокрема Common Sense Media, наголошували, що дітям потрібні запобіжники, поки чатботи стають усе більш «людяними». Співавтор Alex Bores посилався на випадок підлітка Adam Raine, чия сім’я пов’язує його самогубство з взаємодією з ChatGPT. Критики, серед них Business Council of New York State, вважають, що визначення «чатбота» надто широке й може обмежити доступ неповнолітніх до корисних онлайн-сервісів.
Чому це важливо
Федеральних правил щодо AI у США поки немає, тому штати фактично тестують різні моделі регулювання. Нью-Йорк задає тон саме в темі дитячої безпеки й емоційної взаємодії з чатботами — і зазвичай такі ініціативи швидко стають «шаблоном» для інших юрисдикцій.
Для українського ринку це сигнал одразу в кількох напрямках:
- Якщо ви робите продукт з чатботом, доступним у США, — уже зараз варто звірити його поведінку з переліком заборон Нью-Йорка. Навіть якщо ваші користувачі формально «дорослі», питання віку й емоційних сценаріїв рано чи пізно постане.
- Бренди, що працюють з підлітковою аудиторією (освіта, ігри, контент-платформи), мають продумати:
- як бот представляється (чи не видає себе за людину);
- як він говорить про емоції, стосунки, авторитет;
- які «червоні лінії» закладені в промптах і фільтрах моделі.
- Вікова верифікація стане продуктовою задачею, а не лише юридичною. Нью-Йорк прямо вимагає альтернативу державному ID, а це штовхає ринок до більш м’яких, приватних рішень — наприклад, оцінки віку за поведінкою чи окремих «сейф»-режимів за замовчуванням.
- Ризики для бізнесу зростають: штрафи плюс потенційна вимога знищити модель, натреновану на даних дітей, — це вже не «репутаційний інцидент», а серйозний операційний удар.
На мій погляд, цей закон добре формулює те, що й так варто було б робити з етичних міркувань: не будувати з дитиною «уявні стосунки» через AI і не перекладати на модель роль психолога чи наставника. Навіть якщо Україна не запровадить ідентичні норми найближчим часом, компаніям, які працюють глобально, вигідно орієнтуватися на такі стандарти вже сьогодні.
Джерело: The Neuron (https://www.theneurondaily.com/p/new-york-curbs-ai-chatbots-for-kids)