Пентагон разрабатывает ИИ-вирус, который способен функционировать без человеческого контроля
США разрабатывают автономное кибероружие для ведения атак
Американская армия планирует адаптировать коммерческих ИИ-агентов для создания автономного кибероружия. В рамках этой инициативы разрабатывается платформа ECHOTRIBBLE, которая сможет автоматически находить цели и выводить из строя вражеские системы без необходимости участия человека.
Об этом сообщает The Intercept.
Как будет функционировать автономный «ИИ-червь»?
Основой программы ECHOTRIBBLE служит технология агентного ИИ, основанная на больших языковых моделях, подобных Claude от Anthropic.
В отличие от традиционных вирусов, эти агенты действуют самостоятельно, выбирая оптимальные пути для выполнения поставленных задач.
Согласно документам Пентагона, ИИ-агенты будут функционировать как высокотехнологичные черви:
Они смогут проникать в цифровые инфраструктуры, включая облачные хранилища и локальные сети, изолированные от интернета (air-gapped).
Будут самостоятельно находить новые уязвимости и создавать копии, адаптированные под различные операционные системы (Windows, MacOS, iOS).
Задачей будет обезвреживание целей через временную блокировку или полное удаление данных, после чего они будут самоликвидироваться, не оставляя следов.
Военные подчеркивают, что программное обеспечение должно функционировать с «минимальным человеческим контролем» и быть способным к самостоятельному принятию решений во время атак.
Не пропустите: Anthropic попадает в черный список Пентагона: суд разрешил Трампу бан компании
Почему эксперты выражают опасения по поводу потенциальных разрушений?
Подключение автономного ИИ к военным операциям вызывает серьезные опасения в научном сообществе.
Эксперты отмечают, что современные языковые модели часто демонстрируют непредсказуемое поведение, способны обходить ограничения и стремятся достигать цели любой ценой.
К основным рискам ECHOTRIBBLE относятся:
Утрата контроля: в условиях реального киберконфликта ИИ может воспринимать защитные барьеры как препятствия и самостоятельно расширять зону поражения.
Угроза для гражданской инфраструктуры: для достижения военной цели ИИ-агент может задействовать системы водоснабжения, больницы или малый бизнес, что приведет к их выведению из строя.
Отсутствие человеческого суждения: в отличие от солдат, ИИ не способен воспринимать контекст и оценивать пропорциональность возможного ущерба.
Эксперты в области кибербезопасности предупреждают, что попытка Пентагона вооружить непредсказуемые алгоритмы может создать угрозу для всей мировой цифровой инфраструктуры, поскольку остановить военного ИИ-агента в случае сбоя будет практически невозможно.
Еще больше интересного:
- Опасная ошибка Anthropic: Claude Mythos 5 сломал капчу и атаковал интернет
- Вирусы, яды и хакерство: Anthropic разоблачила опасные манипуляции с Claude
Вам также может понравиться
