Сэм Альтман обсудил серьезные риски и ограничения, связанные с развитием технологий искусственного интеллекта. В своем выступлении он акцентировал внимание на конфликтах между основными концепциями ИИ, подчеркивая необходимость осторожного подхода и принятия мер предосторожности.
В чем различия между OpenAI и Anthropic?
Сэм Альтман объяснил, почему OpenAI и Anthropic имеют разные взгляды на будущее искусственного интеллекта — компании придерживаются противоположных подходов к регулированию технологий.
По мнению главы OpenAI, значительная польза от развития ИИ оправдывает сопутствующие риски, и доступ к моделям должен оставаться максимально открытым.
Суть разногласий между OpenAI и Anthropic
Обсуждая различия в подходах с Дарио Амодеи, руководителем Anthropic, Альтман отметил, что «мир должен признать возможность отдельных негативных инцидентов ради предоставления людям свободы действий и доступа к инструментам ИИ».
На протяжении длительного времени Anthropic выступала за жесткий государственный контроль в сфере ИИ, в то время как OpenAI поддерживала более гибкие правила.
Хотя в последнее время позиции компаний несколько сблизились в связи с непредсказуемым поведением моделей и киберинцидентами, Альтман подчеркивает различия в подходах двух организаций.
Как это проявляется?
Модель Anthropic основывается на концепции осторожности, предполагая, что мощные технологии должны контролироваться ограниченным числом лабораторий для предотвращения их злоупотребления.
Подход OpenAI отвергает полное сдерживание технологий, считая, что общество получит значительно больше положительных результатов, чем отрицательных последствий.
Больше интересного: Экономит время и деньги: Anthropic презентовала новую ИИ-модель Sonnet 5.5
«Красные линии» и катастрофические риски
Несмотря на поддержку более широкого доступа к ИИ, Альтман отметил, что компания не игнорирует глобальные угрозы.
OpenAI признает необходимость замедления разработки сложных моделей и поддерживает привлечение независимых экспертов по безопасности.
Главным приоритетом для компании остается предотвращение катастрофических сценариев, включая полную утрату контроля над искусственным интеллектом.
Интеллект флагмана в 5 раз дешевле: OpenAI презентовала новую GPT-6.1 Sol
Позиция Anthropic и обвинения в монополизации
В ответ на обвинения в стремлении к регуляторному захвату рынка представители Anthropic отметили, что их законодательные инициативы касаются лишь мощных передовых моделей.
Дарио Амодеи ранее подчеркивал, что нормативные предложения Anthropic разрабатываются с целью замедлить разработки крупных игроков и создать более благоприятные условия для малых конкурентов и стартапов.
Еще больше интересного :
- Anthropic попадет в черный список Пентагона: суд разрешил Трампу бан компании
- Скандальный обход блокировок: ИИ-агенты OpenAI скачали базы данных ООН
Вам также может понравиться
