OpenAI начала процесс маркировки текстов, создаваемых с помощью ChatGPT, для пользователей из Европейского Союза. Это решение связано с новыми требованиями, установленными Регламентом о цифровых услугах. Компания стремится избежать штрафов, которые могут достигать 15 миллионов евро, если не будет выполнено законодательство ЕС. Маркировка текстов призвана обеспечить прозрачность и дать пользователям возможность понимать, что контент сгенерирован искусственным интеллектом.
OpenAI начинает соблюдать новые правила ЕС по прозрачности искусственного интеллекта
OpenAI сообщила о внедрении новых требований Европейского Союза, касающихся прозрачности в области искусственного интеллекта. Разработчик ChatGPT вводит невидимую маркировку для текстов и кода, созданных пользователями в странах ЕС.
Технология textGrain и её эффективность
Для реализации маркировки контента OpenAI использует собственную разработку, известную как textGrain. Эта технология добавляет невидимый статистический сигнал в процесс выбора слов моделью, не изменяя при этом визуальный вид текста или кода.
Особенности работы и ограничения системы
Точность обнаружения: при анализе больших фрагментов текста (около 400 токенов) эффективность распознавания достигает 95%, но для коротких сообщений (до 200 токенов) этот показатель снижается до 80%.
Воздействие редактирования: значительное перефразирование или замена до 25% слов синонимами значительно ослабляют водяной знак (до 17%).
Сложные домены: точность распознавания значительно хуже в математических вычислениях, где выбор слов ограничен строгими правилами.
По умолчанию функция водяных знаков активирована для ChatGPT и Codex только в пределах ЕС, в то время как пользователи OpenAI API по всему миру могут включить её по своему усмотрению.
Инструмент для проверки меток будет доступен только аккредитованным исследователям и экспертным организациям.
Читайте больше: Катастрофические риски и запреты: Сэм Альтман рассказал о конфликте ключевых ИИ-концепций
Требования Регламента ЕС об искусственном интеллекте
Эти меры принимаются в соответствии со статьей 50 Регламента ЕС о ИИ, которая обязывает поставщиков генеративных систем обеспечивать машинно считываемую маркировку.
Норма начала действовать для новых разработчиков в августе, а действующие компании (такие как OpenAI, Anthropic, Microsoft, Google, Meta) должны полностью адаптироваться к 2 декабря.
Основные положения регулирования контента в ЕС
Четкая маркировка: фотографии, аудио, видео и тексты, полностью сгенерированные ИИ, должны содержать отметку «AI-Generated», особенно это касается дипфейков с участием политиков или новостных материалов.
Предупреждение пользователей: платформы обязаны информировать пользователей о том, что они взаимодействуют с чат-ботом, а не с живым человеком.
Строгие штрафы: за нарушение правил предусмотрены санкции до 15 миллионов евро или до 3% от годового мирового оборота компании.
Несмотря на критику со стороны технологического сектора, Европейская комиссия подчеркивает: единые правила помогут защитить демократию, базовые права граждан и повысить доверие к цифровой экосистеме.
Еще больше интересного :
- Собери свой гаджет: Meta открыла код персонального ассистента Muse
- Google ограничит бесплатный Gemini: какие модели заберут
Вам также может понравиться
