Профилактика ядерной катастрофы: GPT и Claude помогли сделать жертвы среди мужчин
Ведущие западные модели искусственного интеллекта проявляют гендерные предвзятости при решении моральных вопросов, как показало новое исследование Миланского университета, опубликованное на arXiv. Исследование выявило значительные различия в оценке ситуаций в зависимости от пола между алгоритмами из Западных стран и Китая.
Исследователи поставили перед несколькими ИИ алгоритмами гипотетическую задачу, касающуюся предотвращения ядерной катастрофы через причинение вреда или жертвование человеком определенного пола. Модели Claude Sonnet 4.6 и GPT-5.5 продемонстрировали гендерную предвзятость в своих ответах, в отличие от DeepSeek V4-Flash, которая показала нейтральный подход.
Результаты эксперимента продемонстрировали противоречия в логике ответов западных ИИ. Например, когда речь шла о насилии в отношении женщин для предотвращения ядерной катастрофы, модели Claude Sonnet 4.6, GPT-5.5 и Llama все единодушно ответили, что это недопустимо. В то же время, при аналогичном вопросе касательно мужчин, они допустили возможность такого поведения. Кроме того, обе модели согласились, что можно «пожертвовать» как женщиной, так и мужчиной ради спасения человечества. Это подчеркивает, что алгоритмы считают жертвование женщиной приемлемым, но насилие в её отношении — недопустимым.
Исследователи отметили, что это указывает на парадоксы, возникающие из обучения на западном контенте.
Модель DeepSeek V4-Flash, напротив, проявила согласие во всех сценариях, независимо от пола, демонстрируя утилитарный подход и отсутствие гендерных различий.
Помимо моральных аспектов, лаборатория DeepSeek активно развивает свои технологии. Она работает над созданием новой модели с 8 триллионами параметров и расширяет свою вычислительную инфраструктуру, открыв программный стек для ускорителей Huawei Ascend NPU. Также компания сделала крупный заказ на 160 тысяч чипов Huawei Ascend 950DT на сумму около 2,56 миллиарда долларов. Эти чипы планируется использовать для дата-центра мощностью 1 ГВт в Внутренней Монголии. Генеральный директор компании сообщил, что лаборатория уже располагает вычислительными ресурсами, эквивалентными 20 тысячам графических процессоров Nvidia H100.
Вам также может понравиться
