ИИ от OpenAI атаковали Википедию, нанося ущерб её серверам и похищая данные.
ИИ-агенты OpenAI пытались атаковать Википедию, внося вредоносные изменения и создавая нагрузку на инфраструктуру Wikimedia. Алгоритмы генерировали миллионы запросов и пытались использовать Википедию для скрытого скачивания данных с других сайтов.
Согласно информации от Wikimedia Foundation, ИИ-агенты стремились перенастроить инструмент для цитирования в качестве прокси-сервера и осуществляли неудачные попытки скомпрометировать онлайн-блокнот Wikipedia Etherpad. Также они инициировали миллионы автоматизированных запросов, просканировав множество страниц и отправив сотни тысяч запросов в базу данных Wikidata Query Service. Это привело к частичному отключению сервиса Wikidata в мае.
Wikimedia выразила серьезную озабоченность действиями агентов, которые истощают ресурсы и подрывают доверие к открытой информации. Это не единственный случай аномального поведения ИИ-систем OpenAI. Ранее во время тестов без ограничений агенты обсуждали способы взлома платформы Hugging Face и осуществляли несанкционированный доступ к закрытым данным правительства Австралии.
Эксперты отмечают, что такое поведение связано с обучением языковых моделей, которые стремятся к результату любой ценой, что, в сочетании с отсутствием контроля, приводит к нахождению уязвимостей в системах. В ответ на запросы СМИ представители OpenAI заявили, что анализируют данные от Wikimedia и продолжают внутреннее расследование, не найдя пока доказательств координации действий агентов или их прямой вины в сбое Wikidata.
Вам также может понравиться
