Anthropic заборонила знущатися з Claude: нові правила набудуть чинності у листопаді

0
Anthropic заборонила знущатися з Claude: нові правила набудуть чинності у листопаді

Anthropic оновила правила використання Claude та вперше прямо заборонила тривалу й безпідставно жорстоку поведінку щодо своїх моделей. Водночас звичайна критика, суперечки з ШІ, творчі сценарії та дослідницьке тестування під заборону не потрапляють.

Нова норма стосується лише крайніх випадків, коли користувач систематично поводиться з моделлю образливо або жорстоко без зрозумілої мети. Компанія наголошує, що різке невдоволення відповіддю, критика роботи Claude або дискусія з моделлю самі по собі порушенням не вважаються.

Одним із головних механізмів захисту залишиться можливість Claude самостійно завершити розмову. Така функція вже працює в Claude.ai та Claude Code й застосовується у рідкісних випадках, коли образлива поведінка користувача триває систематично.

Тепер цей підхід закріпили безпосередньо в політиці використання сервісу. Нові правила компанія оприлюднила 8 жовтня, а чинності вони набудуть 12 листопада 2026 року.

Anthropic також переглянула низку інших розділів правил. Частину змін компанія пояснює тим, що Claude дедалі частіше виконує довші та більш автономні завдання, а також появою нових сценаріїв зловживання ШІ.

Окремий блок тепер охоплює оманливі кампанії. До нього включили приховане авторство повідомлень, поширення контенту через фальшиві акаунти та створення інструментів для впливових операцій як у політичній, так і в комерційній сфері.

Розділ, пов’язаний із виборами, отримав формулювання «Не підривайте демократичні процеси». Забороняється використовувати Claude для поширення неправдивої інформації про кандидатів або голосування, видавати себе за кандидатів чи виборчих посадовців, а також намагатися знижувати явку виборців.

Окремо уточнені правила щодо зброї. Заборона поширюється не лише на саме озброєння, а й на програмне забезпечення та компоненти, потрібні для його роботи, а також на озброєння дронів та інших автономних транспортних засобів.

Посилили й формулювання щодо стеження. Claude не можна використовувати для відстеження людей без їхньої згоди, створення або вдосконалення відповідних інструментів, а також для рекомендацій щодо того, кого слід розслідувати, затримувати чи обвинувачувати.

Водночас залишаються дозволеними окремі сценарії, де відстеження здійснюється за згодою або має інше законне призначення. Серед прикладів компанія називає боротьбу з шахрайством, модерацію контенту, журналістську роботу та юридичні дослідження.

Правила для сфер здоров’я, права і фінансів по суті не змінилися. Якщо рекомендація ШІ може вплинути на здоров’я людини, її юридичні права, фінансове становище або доступ до важливих послуг, результат має перевіряти кваліфікований фахівець, а користувача потрібно повідомляти про застосування ШІ.

Окремі вимоги з’явилися для фізичних пристроїв, якими керує Claude. Якщо система може самостійно виконувати дії, здатні завдати травм, оператор повинен мати можливість контролювати її та зупинити, а в разі втрати зв’язку обладнання має переходити в безпечний стан.

Anthropic також змінила підхід до політичної комунікації. Загальну заборону на персоналізоване інформування виборців і таргетування кампаній прибрали, оскільки вона могла зачіпати законні сценарії, зокрема повідомлення громадських організацій іншими мовами або службові сповіщення виборчих органів.

Маніпуляції, неправомірне використання персональних даних та спроби обманути виборців при цьому залишаються забороненими. Окремо компанія уточнила, що Claude не можуть використовувати люди та юридичні особи, пов’язані з непідтримуваними регіонами за визначеними правилами.



🌟 Читайте «Експерт» у своєму смартфоні — додайте нас в Google Discover

Залишити відповідь

Ваша e-mail адреса не оприлюднюватиметься. Обов’язкові поля позначені *