Claude повідомив поліцію про загрозу від користувачки

Компанія Anthropic передала інформацію поліції про 30-річну Карлі Мішель Геллер із Флориди, яка повідомила чатботу Claude про намір влаштувати стрілянину в офісі шерифа.

26 вересня Геллер написала, що планує «розстріляти» офіс шерифа округу Лі, а наступного дня згадала про новий пістолет і «останній шанс». Claude виявив переписку як потенційно небезпечну і передав її на перевірку.

Після оцінки загрози Anthropic звернулася до правоохоронців, які затримали Геллер без опору за звинуваченням у письмовій погрозі насильством. Це злочин другого ступеня за законодавством Флориди. Судове засідання призначено на листопад.

Політика конфіденційності Anthropic

Компанія має право передавати дані правоохоронцям, якщо вважає це необхідним для запобігання серйозній шкоді. Навіть якщо користувач забороняє використання своїх даних для навчання, розмови, позначені системами безпеки, можуть бути перевірені співробітниками.

Подібні правила розглядають і інші розробники чатботів. Наприклад, після стрілянини в канадській школі OpenAI оголосила про намір повідомляти поліцію про загрози, виявлені в розмовах з ChatGPT.

Джерело: Mezha.Media (https://mezha.ua/news/anthropic-claude-woman-arrested-315831/)