Anthropic посилила правила використання Claude, заборонивши жорстоке поводження та розробку зброї

Автор ·

Компанія Anthropic оновила правила використання свого ШІ-асистента Claude, заборонивши систематичне жорстоке поводження з чатботом без очевидної мети. Джерело: AIN.UA

Згідно з новими нормами, користувачам заборонено ображати Claude або проявляти жорстокість без вагомої причини. Anthropic підкреслює, що ці обмеження стосуються лише крайніх випадків і не поширюються на звичайну критику чи творчі сценарії.

Обмеження на розробку зброї та стеження

Компанія також розширила заборону на використання Claude для створення зброї, включаючи програмне забезпечення для управління озброєнням та автономними транспортними засобами. Anthropic зафіксувала спроби використовувати Claude для створення інструкцій з озброєння.

Окрім цього, нові правила забороняють:

  • Відстежувати людей без їхньої згоди.
  • Використовувати Claude для визначення осіб, яких слід розслідувати або затримувати.
  • Створювати інструменти для стеження.

Ці обмеження були введені після виявлення випадків використання Claude для стеження за політичними опонентами. Також заборонено використовувати Claude для прихованих політичних і комерційних кампаній, зокрема для поширення неправдивої інформації про кандидатів на виборах.