Anthropic оновила політику використання Claude, заборонивши образи та військове застосування

Компанія Anthropic внесла важливі зміни до політики використання своїх моделей, зокрема заборонивши образливе ставлення до ШІ-чатбота Claude. Тепер Claude може достроково припиняти токсичні чати.

Нові правила використання

Згідно з оновленою політикою, забороняється «тривала та безпідставна образлива або жорстока поведінка» щодо чатбота. Це правило застосовуватиметься лише в крайніх випадках і не стосуватиметься звичайних розчарувань користувачів.

Заборона на військове використання

Anthropic також розширила заборону на військове застосування своїх технологій. Тепер заборонено використовувати Claude для створення програмного забезпечення для управління зброєю, дронів та автономних транспортних засобів.

Захист приватності

Компанія чітко заборонила стеження за людьми без їхньої згоди. Це рішення ухвалене після виявлення випадків використання Claude для відстеження політичних дисидентів. Також заборонено використовувати Claude для прийняття рішень у правоохоронній діяльності.

Інші оновлення

Серед інших нововведень — заборона на дезінформацію, приховані інформаційні кампанії та підробку акаунтів. Якщо модель ШІ підключена до небезпечного обладнання, має бути присутній кваліфікований оператор для контролю. Anthropic зазначила, що правила можуть коригуватися для урядових замовників за наявності запобіжних заходів.

Компанія також активно досліджує питання свідомості та морального статусу штучного інтелекту, адже це стає важливішим з розвитком технологій.

Джерело: dev.ua (https://dev.ua/news/anthropic-zaboronyla-obrazhaty-claude-1791524089)