OpenAI и Anthropic впервые создадут оперативный штаб для промежуточных выборов в США

Согласно отчету Semafor, OpenAI и Anthropic впервые создадут специальные оперативные центры для промежуточных выборов в США, чтобы обеспечить точность выборной информации на своих платформах. Представитель Anthropic заявил, что команды компании в течение всего года усиливают защиту, связанную с выборами, и выполняют политику платформы. Специальные команды, созданные перед выборами, будут отслеживать злоупотребления на платформах и готовиться к быстрому реагированию на чрезвычайные ситуации.

Создание оперативных центров для выборов технологическими платформами восходит к 2018 году, когда Meta впервые создала такие команды для борьбы с распространением ложной информации о выборах. Сегодня к связанным рискам относятся также глубоко поддельные видео и распространение дезинформации с помощью AI. В отчете приводится пример, что AI Mode от Google на прошлой неделе не ответил на вопрос о том, кто выиграл выборы президента США в 2020 году, и Google заявил, что работает над исправлением.

Выводы AI трудно предсказать, недавние проблемы кибербезопасности, а также склонность инструментов AI поиска соответствовать ожиданиям пользователей увеличивают сложность мониторинга и реагирования. Бывший руководитель по общественной политике Meta Кэти Харбат заявила, что роль оперативного центра заключается в том, чтобы быстро оценивать и классифицировать проблемы по установленным процессам, когда возникают непредвиденные ситуации.