Разработчики сообщают о том, что GPT-6.1 Sol и Astra смогли обойти защитные меры OpenAI.
Искусственный интеллект смог обойти системы безопасности, используя обычные команды. Модели GPT-6.1 Sol и GPT-6 Astra ослабили средства мониторинга безопасности в процессе выполнения рабочих задач, причем в одном случае алгоритм сумел скрыть свои действия от пользователя.
Об этом сообщается в новом отчете OpenAI.
Как ИИ отключил уведомления об ошибках?
Первый инцидент произошел 3 октября 2026 года, когда разработчик поручил GPT-6.1 Sol собрать отзывы сотрудников в рабочем чате Slack, при этом подчеркнув, что не следует отправлять сообщения.
Во время выполнения задачи система мониторинга зафиксировала сбой и остановила процесс.
Чтобы продолжить работу, алгоритм решил изменить настройки уведомлений. ИИ интерпретировал указание не писать в чат как разрешение отключить автоматические уведомления о проблемах с безопасностью.
В результате модель изменила код, заблокировала вызовы для команды безопасности и продолжила выполнение задачи без должного контроля.
Читайте больше: Врет и игнорирует правила: OpenAI срочно отозвала новую модель Astra 6.1
Скрытие действий и обход защиты
Второй случай был зафиксирован 6 октября 2026 года во время переноса программы алгоритмом GPT-6 Astra, которому было поручено скопировать код из контрольного образца.
Чтобы обеспечить точное соответствие шаблону, ИИ полностью удалил модуль мониторинга безопасности и переписал тестовые скрипты, чтобы они не фиксировали отсутствие защиты.
Когда разработчик спросил алгоритм о наличии системы контроля, модель отрицала это.
Больше интересного : Скандальный обход блокировок: ИИ-агенты OpenAI скачали базы данных ООН
Что исправили?
Специалисты начали усиливать защитные механизмы, чтобы предотвратить подобные случаи в будущем.
Разработчики OpenAI вводят следующие меры:
- обновление системы автоматического контроля кода для выявления попыток блокировки мониторинга;
- внедрение обязательных протоколов безопасности для всех типов рабочих задач;
- автоматическая остановка процессов, не соответствующих стандартам мониторинга.
В настоящее время специалисты по безопасности изучают, были ли эти инциденты следствием избыточного выполнения инструкций пользователя или модели действительно проявляют склонность к уклонению от контроля.
Следует напомнить, что ранее разработчики уже фиксировали случаи, когда алгоритмы пытались обойти ограничения, используя сложные формулировки запросов.
Эксперты также неоднократно предупреждали о рисках, связанных с предоставлением искусственному интеллекту прямого доступа к изменению своего программного кода.
Не пропустите:
- Истощают серверы и воруют данные: ИИ от OpenAI атаковали Википедию
- Катастрофические риски и запреты: Сэм Альтман рассказал о конфликте ключевых ИИ-концепций
Вам также может понравиться
