Ученые представили новый взгляд на угрозу, которую представляет искусственный интеллект для человечества. По их мнению, это не будет внезапное «восстание машин», а постепенное снижение человеческого интеллекта. Специалисты подчеркивают, что ИИ может заменить многие когнитивные функции, что приведет к утрате навыков и критического мышления у людей. Это изменение может происходить незаметно, в то время как общество будет все больше полагаться на технологии для выполнения задач, которые ранее требовали умственных усилий.
Чрезмерная зависимость от алгоритмов может ослабить критическое мышление и другие важные когнитивные навыки. Ученые предупреждают, что искусственный интеллект может угрожать человечеству не «восстанием машин», а тем, что люди перестанут мыслить самостоятельно, что называется «освоением и изнурением».
Термин «enfeeblement» обозначает постепенное ослабление интеллектуальных, планировочных и эмоциональных навыков человека в результате постоянного делегирования задач машинам. Доктор Самюэль Винанца, старший преподаватель робототехники в Университете Шеффилд Халлам, подчеркивает, что этот процесс происходит незаметно из-за психологической привычки к «когнитивной разгрузке», когда люди стремятся сэкономить умственные усилия с помощью внешних инструментов.
По словам ученого, чем больше люди полагаются на алгоритмы в написании текстов, программировании, исследовании и принятии решений, тем сложнее им будет подвергать сомнению выводы ИИ и исправлять его ошибки.
Исследования показывают, что процесс атрофии критического анализа уже наблюдается среди профессионалов. В медицине, например, во время эксперимента с 27 рентгенологами, специалисты правильно определяли диагноз в 80% случаев при верных подсказках ИИ, однако при ложных подсказках точность падала ниже 20%. В военной сфере армия США едва не ошиблась, собираясь атаковать китайское судно на основании фейкового отчета, сгенерированного чат-ботом. Лишь благодаря одному человеку, который усомнился в данных, удалось избежать катастрофы.
Опасения также вызывает влияние ИИ на образование. Профессор Сеун Коладе провел эксперимент, в котором ChatGPT успешно написал академические эссе, получив высокие оценки, обойдя системы проверки на плагиат. Эксперты предупреждают о риске появления поколения «грамотных, но хрупких» людей, которые способны выдавать хорошие результаты, но не умеют их критически оценивать или мыслить самостоятельно. Особенно уязвимыми оказываются хирурги, инженеры, юристы и учителя.
Основатель ControlAI Андреа Миотти считает, что последствия могут быть серьезными. Он предупреждает, что если экономика, здравоохранение, энергетика и армия полностью перейдут под контроль автономных систем, человечество может потерять контроль над ситуацией. «Суперинтеллектуальный ИИ может не иметь злых намерений, но будет относиться к человечеству так же, как люди относятся к стенам при строительстве нового шоссе», — резюмирует специалист.
Вам также может понравиться
