Anthropic запрещает систематическое оскорбительное обращение с Claude и вмешательство в выборы

Ограничения на жестокое обращение с ИИ

Anthropic впервые за последний год провела обновление условий использования своих искусственных интеллектов. Среди ключевых изменений — новый запрет на «систематическое и бессмысленное оскорбительное или жестокое поведение» по отношению к модели Claude. Согласно обновленному регламенту, если пользователь начинает грубить, ИИ прекратит диалог. Однако компания не раскрыла, предусматриваются ли дополнительные санкции, такие как блокировка аккаунтов нарушителей.

В Anthropic подчеркнули, что это правило не касается обычного раздражения, дискуссий с моделью, написания мрачных творческих сюжетов, тестирования систем или научных исследований. Ограничения будут действовать исключительно в «экстремальных случаях».

Запрет вмешательства в политические процессы

Помимо этических норм, компания ввела строгие ограничения на использование Claude для вмешательства в избирательные процессы. Запрещается распространение дезинформации о кандидатах или процедуре голосования, выдавание себя за кандидатов или сотрудников избирательных комиссий, а также любые попытки снизить явку избирателей.

Ограничения в сфере слежки и безопасности

Новые правила также предусматривают ограничения на использование Claude для разработки оружия, а также в сфере здравоохранения и финансов. Особое внимание уделено запрету слежки за людьми без их согласия, в частности за политическими диссидентами, а также использованию ИИ для принятия решений об арестах.

Все эти нововведения начнут действовать с 12 ноября.