Anthropic ввела строгие правила использования своей модели Claude, запрещая оскорбления и манипуляции, а также любые разработки, связанные с оружием. Эти меры направлены на обеспечение этичного и безопасного применения технологии.
Разработчики обновили политику использования ИИ-моделей Claude
Компания Anthropic представила новую политику использования своих ИИ-моделей Claude, в которой уточняется запрет на применение алгоритмов для создания оружия, слежки и распространения дезинформации. Впервые в документе также вводится запрет на длительное издевательство над ИИ.
Защита ИИ от издевательств пользователей
Разработчики вводят запрет на длительное и необоснованное жестокое или оскорбительное обращение к своим моделям.
Это правило будет применяться только в исключительных случаях, когда пользователи систематически проявляют агрессию без исследовательских или практических целей.
Обычные проявления недовольства, споры или тестирование моделей не попадают под это ограничение. При постоянном хамстве Claude сможет самостоятельно завершать разговор с пользователем на платформах Claude.ai и Claude Code.
Читайте больше: Сканирует ИИ-контент OpenAI и Apple: Google открыла доступ к SynthID для всех
Запрет на дезинформацию и манипуляции
Разработчики объединили правила по борьбе с дезинформацией в новый раздел, который запрещает участие в дезинформационных кампаниях или искусственной активности.
Это решение было принято в связи с использованием Claude государственными СМИ и другими структурами для управления ботами и распространения фейковых новостей.
Запрет касается:
- сокрытия авторов сообщений;
- накрутки контента через бот-аккаунты;
- создания инфраструктуры для информационных операций.
Раздел о выборах также обновлен: Claude запрещено использовать для дезинформации избирателей, распространения ложной информации о кандидатах или срыва голосования.
Однако компания сняла общий запрет на персонализированный таргетинг для легитимных инициатив, таких как перевод инструкций для избирателей на другие языки.
Больше интересного: Биотехнологии переведут в цифру: что известно об уникальном проекте Google, Meta и NVIDIA
Ограничения в области разработки оружия и слежки
Anthropic уточняет, что запрет на разработку оружия касается как программного обеспечения, так и компонентов, необходимых для его функционирования.
Запрещается также оснащение дронов и других автономных транспортных средств ИИ.
В сфере слежки и уголовного правосудия введены следующие правила:
- запрещена слежка за людьми без их согласия в реальном времени или через анализ собранных данных;
- ИИ нельзя использовать для принятия решений о расследованиях, задержаниях или обвинениях;
- запрещено разрабатывать и улучшать инструменты для слежки.
В то же время разрешено проводить мониторинг мошенничества с согласия пользователей, заниматься модерацией контента, журналистикой и юридическими исследованиями.
Не пропустите: Маск прокачал Grok: бот получил доступ к Midjourney, Claude и Suno
Требования к решениям с высоким риском
Если ИИ используется в здравоохранении, финансах или юриспруденции, необходимо наличие квалифицированного специалиста, который сможет проверить и изменить рекомендации системы. Также пользователи должны быть проинформированы о вовлечении ИИ.
При подключении моделей к физическому оборудованию, способному нанести травмы, оператор должен иметь возможность следить за техникой и остановить её в случае необходимости.
В случае потери связи с ИИ оборудование должно автоматически переходить в безопасный режим.
Обновленная политика вступит в силу 12 ноября 2026 года.
Еще больше интересного:
- Дешевле на 75% и быстрее GPT-6 Luna: Anthropic представила Claude Haiku 5.5
- Планирует меню и считает бюджет OpenAI выпустила GPT-6 с интерактивными кнопками
Вам также может понравиться
