Роботы научились исправлять свои воспоминания: искусственный интеллект теперь способен обнаруживать ошибки.
Исследователи из MIT разработали новую систему искусственного интеллекта UQ-DAAAM, которая позволяет роботам самостоятельно исправлять ошибки в своей памяти. Эта технология помогает машинам определять неточности в описаниях окружающих объектов, проверять их правильность и корректировать ошибочные данные.
По информации MIT News, ошибки в памяти возникают из-за особенностей предыдущих систем распознавания, которые сталкиваются с трудностями, когда объекты частично видны, находятся на дальнем расстоянии или сняты при плохом освещении.
В таких ситуациях искусственный интеллект может генерировать неверные описания.
Например, система может ошибочно распознать серую трубу на крыше как белку. Без механизма самокоррекции такое неверное описание остается в трехмерной памяти и влияет на дальнейшие решения и ответы системы.
Не пропустите: ИИ способен изменять воспоминания людей: ученые MIT предупредили об опасности
Как функционирует система оценки неопределенности?
Новый алгоритм анализирует уровень уверенности в описаниях, используя два критерия:
- уверенность визуально-языковой модели в выборе слов для первоначального описания;
- согласованность этого описания с подписями, созданными на основе изображений того же объекта с разных углов.
Собранные данные объединяются в единый показатель неопределенности. Если этот показатель превышает определенный порог, система отмечает информацию как сомнительную и начинает процесс уточнения.
Вместо анализа всех кадров UQ-DAAAM применяет математический метод выбора только тех ракурсов, которые могут эффективно устранить неопределенность.
Это значительно снижает нагрузку на вычислительные ресурсы робота во время движения.
После отбора оптимальных изображений большая языковая модель (LLM) создает обновленную подпись, основываясь на более свежих и менее неоднозначных данных, после чего уточненная информация сохраняется в памяти.
Читайте интересное: Выдержал вирусы и кибератаки: Китай создал первого в мире автономного гуманоида
Результаты и будущее
В ходе лабораторных испытаний система исправила неопределенность для 92 процентов объектов в рабочей среде, при этом в среднем требовалось всего две дополнительные подписи на каждый объект.
Использование UQ-DAAAM увеличило точность распознавания объектов на 5 процентов по сравнению с аналогичными системами и улучшило качество ответов на вопросы о местоположении предметов и времени последнего контакта с ними.
В дальнейшем разработчики намерены адаптировать систему для мобильных роботизированных манипуляторов и обучить роботов самостоятельно возвращаться в зоны с высокой неопределенностью для получения более качественных изображений.
Еще больше интересного:
- Meta создала гуманоида для ИИ Muse: чем опасно сотрудничество с Китаем
- ШИ-роботов можно запрограммировать на опасные действия: достаточно секретного слова
Вам также может понравиться
