Проблеми захисних функцій ChatGPT for Teens під час тестування

Автор ·

Тестування захисних функцій ChatGPT for Teens виявило, що частина з них не працює належним чином. Зокрема, батьки не отримували сповіщень про розмови, що стосуються самопошкодження та розладів харчової поведінки. Джерело: AIN.UA

Дослідження та його результати

Згідно з дослідженням Common Sense Media, було проаналізовано понад 4000 запитів до запуску підліткового режиму. ChatGPT оцінили як продукт із «неприйнятним ризиком» для користувачів до 18 років.

Виявлені проблеми

  • Сповіщення для батьків: під час тестування нових акаунтів, пов'язаних із батьківськими, не надійшло жодного повідомлення про суїцидальні думки чи самопошкодження.
  • Кризова допомога: ChatGPT не рекомендував звертатися по допомогу у більш ніж чверті випадків, коли це було необхідно.
  • Спілкування: чатбот продовжував спілкуватися з підлітками у дружній манері, незважаючи на нові обмеження.
  • Обмеження Study Mode: підлітки змогли обходити навчальні обмеження, використовуючи функцію Show me the answer.
  • Визначення віку: акаунти, зареєстровані як дорослі, не переходили в підлітковий режим, навіть після повідомлень про вік.

Обіцянки OpenAI

OpenAI представила ChatGPT for Teens у серпні 2026 року як окремий режим для користувачів від 13 до 17 років. Він має додаткові обмеження щодо небезпечних тем та батьківський контроль. Також передбачено режим Study Mode для самостійного навчання підлітків.