Исследователи из MIT сделали тревожное заявление о возможностях искусственного интеллекта в изменении человеческих воспоминаний. Они подчеркивают, что современные технологии могут манипулировать памятью, что создает ряд этических и социальных рисков. Специалисты предупреждают о потенциальных последствиях таких вмешательств для личной идентичности и психического здоровья людей.
Исследование показало, что ИИ может искажать восприятие прошлого у людей
Ученые обнаружили, что искусственный интеллект способен не только создавать фальшивые изображения, но и влиять на память людей, формируя ложные воспоминания и вызывая сомнения в их собственных переживаниях.
Об этом сообщает The Washington Post.
Эксперимент MIT: уверенность в искаженной реальности
В рамках эксперимента под руководством Патти Маэса участникам показывали набор реальных фотографий. После паузы одной группе были повторно показаны те же изображения, а другой — их измененные версии, созданные с помощью ИИ.
При тестировании памяти участники, которые видели измененные изображения, чаще ошибались в воспроизведении оригинальных деталей и выражали уверенность в своих ложных воспоминаниях.
Исследователи считают, что дипфейки и тексты, сгенерированные ИИ, могут укоренять фальшивые воспоминания о вымышленных событиях, что уже сказывается на политических предпочтениях и снижает готовность людей участвовать в голосовании.
Читайте больше: ИИ на живых клетках мозга: ученые создают биокомпьютеры из человеческих нейронов
Проблема слепого доверия к ИИ и его галлюцинациям
Даже без злого умысла применение ИИ создает серьезные угрозы для объективной правды из-за так называемых галлюцинаций — вымышленных фактов, создаваемых алгоритмами.
Государственные учреждения, банки, больницы и военные организации пытаются внедрить принцип участия человека в процессе (human in the loop), предполагая, что специалисты должны проверять выводы ИИ перед принятием важных решений.
Тем не менее, исследования показывают, что люди плохо замечают ошибки алгоритмов.
Когда информация, сгенерированная ИИ, противоречит знаниям эксперта, человеческая память начинает подвергаться сомнению, а оценка ситуации искажается в пользу технологии.
Не пропустите: Не только ИИ и ядерный конфликт: ученые назвали 17 главных угроз человечеству
Риски ошибок: от атак к полной автономии
Ученые выражают обеспокоенность: обычные пользователи сейчас способны различать сгенерированное содержимое лишь на уровне простого угадывания. В то же время разработчики стремятся как можно быстрее внедрить полностью автономные ИИ-агенты, исключая людей из процессов контроля.
Доверие к алгоритмам в принятии критических решений уже приводит к трагическим последствиям.
Так, по данным расследования Министерства обороны США, авиаудар по начальной школе в Иране, в результате которого погибли более 150 человек, произошел в частности из-за чрезмерного доверия к системе ИИ от Palantir.
Система рекомендовала атаковать гражданский объект на основе устаревших данных, а люди-контролеры не усомнились в этом решении.
Еще больше интересного:
- Claude раскрыл тайну АНБ за 30 минут: как ИИ разгадал 25-летнюю загадку
- OpenAI строит собственного гуманоида: Сэм Альтман назвал время релиза
Вам также может понравиться
