Anthropic запретит пользователям Claude намеренно оскорблять ИИ

Anthropic обновила правила использования ИИ-ассистента Claude, отдельно запретив продолжительное и необоснованное жестокое обращение с моделями. Новые требования вступят в силу 12 ноября и распространятся на всех пользователей. При этом обычное недовольство ошибками чат-бота, критика его ответов и тестирование моделей останутся допустимыми.

Компания пояснила, что ограничение касается крайних случаев, когда пользователь неоднократно оскорбляет модель без видимой причины. Основным способом реагирования останется уже существующая функция Claude, позволяющая завершать разговоры после повторных попыток прекратить оскорбительное поведение. После закрытия такого чата пользователь сможет начать новый диалог. При этом общие правила Anthropic также предусматривают предупреждение, ограничение или приостановку доступа при нарушениях.

Обновление затронуло и другие области. Anthropic уточнила запрет на слежку за людьми без их согласия, в том числе с использованием ранее собранных данных, а также на применение Claude для определения того, кого следует привлечь к ответственности. Также введены ограничения на разработку программного обеспечения для создания оружия или его компонентов.

Отдельный раздел правил теперь объединяет ограничения на мошеннические кампании с использованием поддельных аккаунтов и фиктивных новостных сайтов. Anthropic также уточнила требования к политическому контенту: персонализированное воздействие на избирателей больше не запрещено, однако обман и неправомерное использование персональных данных по-прежнему ограничены. Обновлённая политика была опубликована 8 октября и начнёт действовать 12 ноября 2026 года.

Добавьте Hdhai в избранное и вы будете чаще видеть наши последние новости на главной Дзена и в разделе «Новости партнёров» или читайте нас в Telegram в привычном для вас формате.