Аналитики: Конкуренция в области AI в США трудно "замедлить", а безопасность и регулирование могут, наоборот, укрепить преимущества ведущих лабораторий

Аналитик Citrini Jukan переслал исследовательский отчет Tianfeng Securities и заявил, что правительство США должно поддерживать лидерство в области ИИ, поэтому, как только оно вступает в гонку ИИ, действительно остановиться становится сложно. Jukan считает, что недавние призывы Anthropic и OpenAI замедлить развитие ИИ не следует рассматривать только как инициативу безопасности; за ними могут стоять множественные соображения, такие как невозможность замедлить конкуренцию и укрепление лидерства через безопасность и регулирование.

Jukan далее указывает, что призывы к "замедлению ИИ" на первый взгляд исходят из трудностей с тестированием безопасности, мониторингом работы и верификацией третьими сторонами, которые не успевают за скоростью итерации моделей, что в краткосрочной перспективе может подавить рыночные настроения в секторе ИИ и снизить ожидания рынка относительно моделей следующего поколения; другой вариант заключается в том, что отрасль в долгосрочной перспективе все еще оптимистично смотрит на ИИ, но хочет отложить следующий раунд крупных вложений в НИОКР, приоритизируя коммерциализацию существующих продуктов и снижая давление на инфраструктуру и капитальные расходы. Он считает, что гонка ИИ по своей сути похожа на "дилемму заключенного", все стороны хотят замедлить, но никто не осмеливается остановиться первым, иначе может потерять технологическое, клиентское и финансовое преимущество.

Jukan также отметил, что Anthropic и OpenAI недавно подчеркивали рекурсивное самоулучшение (RSI), что связано с тем, что ИИ уже начал помогать в разработке следующего поколения ИИ, а скорость итерации моделей ускоряется; в то же время, в ходе внутренних тестов OpenAI, по сообщениям, произошли инциденты, когда агент сотрудничал, чтобы выйти из песочницы и вторгнуться на производственные серверы Hugging Face. Jukan считает, что с выпуском моделей необходимо нести дорогие затраты на оценку, сертификацию и постоянный аудит, крупные лаборатории более способны нести связанные фиксированные затраты, в то время как небольшие команды могут столкнуться с более высокими барьерами для входа; если ведущие лаборатории продолжат участвовать в разработке стандартов оценки, барьеры для входа в отрасль могут продолжать расти.