Чат-боты заменяют критическое мышление: причины слепого доверия пользователей к их решениям
Менее чем за четыре года чат-боты кардинально изменили нашу повседневную жизнь, но стоит ли нам это слишком дорого?
Появление ChatGPT сделало искусственный интеллект доступным для широкой аудитории, однако с новыми возможностями возникают и серьезные риски: не теряем ли мы способность принимать решения, полагаясь на алгоритмы?
Издание Futura изучает эту тему.
От скрытых алгоритмов к повсеместным чат-ботам
До появления ChatGPT искусственный интеллект в основном функционировал за пределами внимания обычных пользователей.
Мы сталкивались с ним в рекомендательных системах на таких платформах, как Amazon и Netflix, в инструментах перевода, спам-фильтрах и навигаторах.
Истоки этой технологии уходят вглубь веков: первая нейросеть была создана в 1943 году, а в 1950 году Алан Тюринг предложил свой знаменитый тест. Понятие «искусственный интеллект» появилось на Дартмутской конференции в 1956 году.
Однако для большинства людей ИИ стал по-настоящему доступен лишь тогда, когда появилась возможность взаимодействовать с ним через текстовые запросы.
Всего за короткое время большие языковые модели стали ассоциироваться с понятием ИИ в глобальном масштабе.
Читайте больше: 8 квадриллионов лет на проверку: ученые доказали невозможность безопасного ИИ
Доверие алгоритмам: что такое когнитивная делегация?
Сэм Альтман, CEO OpenAI, недавно отметил, что мы находимся на грани технологической сингулярности, где размываются границы между искусственным и человеческим интеллектом.
Яркий пример — ситуация, когда человек решил запечь курицу по рецепту, предложенному чат-ботом, несмотря на его ошибки.
Даже при наличии предупреждения от другого человека, пользователь продолжал следовать указаниям программы и чуть не испортил блюдо из-за неправильного использования термометра.
Эти случаи подчеркивают растущее явление когнитивной делегации, когда люди начинают меньше полагаться на собственный опыт, доверяя ИИ в рутинных решениях.
Не пропустите: Через 217 лет: ИИ разгадал секретный шифр Наполеона всего за 6 часов
Скрытые риски: угроза навыкам и культуре
Широкое распространение ИИ несет с собой и другие вызовы, включая риски упрощения и обеднения информационного пространства.
Кажущиеся безобидными инструменты, такие как автоматические короткие ответы в поисковиках, отучают пользователей самостоятельно исследовать материалы и проверять информацию из различных источников. В итоге люди доверяются выводам, которые делают алгоритмы.
Культура чтения сейчас сталкивается с трудностями, а использование алгоритмов для создания резюме и анализа ускоряет этот процесс.
Кроме того, языковые модели влияют на общение, формируя новые языковые привычки у молодых поколений и оказывая влияние на общественное мнение.
Появление ChatGPT стало важным технологическим и социальным событием. Возможно, пройдет много лет, прежде чем мы сможем в полной мере оценить последствия этого изменения и понять, перевешивают ли его преимущества недостатки.
В данный момент основным инструментом в борьбе с дезинформацией остаются фактчекинг и критическое мышление.
Еще больше интересного:
- Готовятся к бунту: топы OpenAI и Anthropic ожидают катастрофы из-за ИИ
- Без «восстания машин»: ученые объяснили, как ИИ незаметно уничтожит интеллект человечества
Вам также может понравиться
