OpenAI и Anthropic ограничивают доступ к отчетам о потенциальных рисках, связанных с искусственным интеллектом. Эти компании, занимающиеся разработкой ИИ, предпочитают управлять информацией о безопасности своих технологий, что вызывает опасения среди экспертов и общественности. В условиях нарастающего внимания к угрозам, которые могут исходить от ИИ, такая политика вызывает вопросы о прозрачности и ответственности в этой быстро развивающейся области.
Разработчики ИИ ограничивают независимые проверки безопасности своих моделей
Компании Anthropic и OpenAI стремятся контролировать материалы, которые независимые эксперты используют для оценки безопасности их ИИ-моделей. Они опасаются, что публикация таких данных может привести к раскрытию коммерческих секретов и технологий.
Об этом сообщает Reuters.
Споры о праве на публикацию
Разработчики выражают опасения, что привлеченные аудиторы могут раскрыть конкурентные технологии. В связи с этим они пытаются ограничить возможность оценщиков публиковать свои выводы без предварительного согласования.
Это вызывает обеспокоенность среди научного сообщества, так как информация, которую компании считают коммерческой тайной, часто совпадает с данными о потенциальных рисках и угрозах, связанных с ИИ-моделями.
Для защиты информации компании рассматривают следующие меры:
- Надзор за аудиторами: введение контроля со стороны сотрудников компании во время работы внешних экспертов.
- Запрет на совместительство: аудиторам будет запрещено одновременно работать в нескольких конкурирующих лабораториях.
Больше интересного: Опасный сбой в ИИ: Claude проник в чужие системы, воспринимая их за симуляцию
Позиция Anthropic и OpenAI
В Anthropic отметили, что оставляют за собой право комментировать и утверждать отчеты в процессе проверки моделей для новых независимых оценщиков.
Тем не менее, представители компании подчеркивают, что аудиторы самостоятельно выбирают методы оценки и формулируют окончательные выводы.
В OpenAI заявили, что не требуют полного редактирования текстов, однако обычно удаляют конфиденциальную информацию.
На платформе Hugging Face произошел инцидент, когда автономные ИИ-агенты вызвали сбой инфраструктуры.
При подготовке итогового отчета OpenAI изменила его структуру, тон и акценты, а также исключила непубличные данные, хотя исследователи заверили, что основные выводы остались без изменений.
Не пропустите: Суперинтеллект вместо ИИ: Трамп издал указ о полном ребрендинге технологии
Отсутствие четких стандартов и законов
Эксперты выражают беспокойство из-за нехватки законодательных норм для независимого оценивания.
В конце прошлого месяца президент Дональд Трамп и руководители ИИ-компаний подписали Соглашение Белого дома о суперинтеллекте, которое предполагает проведение независимых проверок.
Однако в документе отсутствуют четкие указания относительно порядка проведения этих исследований.
Более 200 ученых и исследователей подписали открытое письмо с требованием обеспечить полную независимость проверок, широкий доступ к моделям и защиту аудиторов от потенциальных санкций со стороны технологических компаний.
Еще больше интересного:
- Трамп основает Силы ИИ: в США назначат специального «царя» для индустрии
- OpenAI сломали с помощью Claude: как это возможно
Вам также может понравиться
