Прошло всего 4 месяца с момента вступления в должность, команда Сун Сяодун была обвинена в разрыве отношений с Meta, причина: несоответствие стилей работы

Исходный заголовок: Meta расстается с Virtue AI

Исходный автор: Эшли Голд

Исходный перевод: Машинное сердце

В июне только наняли, а в октябре уже слухи о расставании?

Команда Virtue AI, в которой работает профессор компьютерных наук UC Berkeley Доун Сонг, похоже, столкнулась с изменениями в сотрудничестве с Meta, причиной чего стали «несоответствующие стили работы».

Доун Сонг пользуется высокой репутацией как в академической среде, так и в промышленности, она является одним из самых влиятельных ученых в области компьютерной безопасности и безопасности ИИ. Ее работа 2005 года «Метод анализа загрязнений» (Dynamic Taint Analysis) считается классической в области компьютерной безопасности.

В списке, составленном AMiner, она является самым цитируемым ученым в области компьютерной безопасности в мире. Ее лаборатория в Беркли считается кузницей кадров в области компьютерной безопасности.

Помимо своей преподавательской деятельности, Доун Сонг также является основателем Oasis Labs и Virtue AI. Согласно информации на официальном сайте Virtue AI, их работа включает в себя моделирование атак, поиск уязвимостей ИИ, а также обеспечение защиты во время работы системы и внедрение правил безопасности и управления. Проще говоря, они помогают ИИ пройти «безопасный тест» и устанавливают «барьеры» во время его работы.

В этом году в июне Доун Сонг объявила в социальных сетях о своем вступлении в суперумную лабораторию Meta Superintelligence Labs. Согласно тогдашним сообщениям СМИ, вместе с ней присоединились еще два сооснователя Virtue AI Бо Ли и Санми Койеджо, а также другие члены команды. Это означает, что набор кадров был направлен на привлечение независимой команды, а не на приобретение всей компании.

Для команды Virtue AI присоединение к Meta стало возможностью, так как они уже занимались тестированием безопасности ИИ, красными командами и защитой после запуска для клиентов, но в условиях стартапа ресурсы ограничены, и, попав в Meta, они могут внедрить эти возможности в продукты для миллиардов пользователей, превращая «инструменты безопасности» в инфраструктуру безопасности для большой платформы.

В то же время Meta также нуждается в них, так как активно развивает ИИ-агентов и суперумный ИИ, и с каждым шагом все больше опасается, что модели могут вести себя неправильно, данные могут быть утечены или искажены злонамеренными командами, поэтому им срочно нужна команда, которая понимает исследования и имеет опыт в реальной безопасности, чтобы обеспечить надежность и управление в области безопасности ИИ.

Все это выглядит очень разумно, но в недавней статье иностранные СМИ Semafor написали, что «представитель Meta Энди Стоун сообщил Semafor, что компания сокращает группу сотрудников, которые были наняты из стартапа в области безопасности ИИ Virtue AI, и проработали всего четыре месяца с июня этого года».

Почему так быстро все дошло до этого? Объяснение Meta заключается в том, что «стили работы не совпадают», и сотрудничество не развивалось по ожидаемому сценарию. В то же время Meta также заявила, что суперумная лаборатория продолжит уделять внимание безопасности ИИ, согласованию и передовым рискам. Конечно, это лишь позиция компании, конкретные разногласия не были раскрыты.

Кроме того, в этом отчете не подтверждено, покинули ли все сотрудники, включая Доун Сонг, компанию, и команда на момент публикации отчета также не ответила.

Тем не менее, изменения в этом сотрудничестве поднимают важные вопросы, наиболее центральный из которых: как заставить талантливых исследователей работать в организации после их привлечения?

Исследование, проведенное MIT Sloan в 2019 году, показало, что в первый год после приобретения компании 33% сотрудников, которые были приобретены, выбирают уход, в то время как среди обычных сотрудников с аналогичными навыками и опытом этот показатель составляет 12%. Хотя со временем эти проценты стремятся к равновесию, в течение трехлетнего окна, которое они исследовали, вероятность ухода сотрудников, которые были приобретены, была на 15% выше, чем у новых сотрудников.

В статье утверждается, что высокая текучесть кадров среди приобретенных сотрудников объясняется «организационным несоответствием»: эти люди изначально присоединились к стартапу, стремясь к атмосфере предпринимательства, автономии, гибкости и готовности к риску, но после приобретения крупной компанией им часто приходится сталкиваться с большим количеством бюрократических процессов и формальной корпоративной культурой, что прямо противоречит их предпочтениям. Кроме того, обычные приобретенные сотрудники обычно не могут выбирать покупателя и не участвуют в организационных изменениях после приобретения, что создает дополнительное чувство дискомфорта, и поскольку они сами склонны начинать с нуля, они легче уходят, даже создавая конкурирующие компании.

Возвращаясь к ситуации с Meta, объяснение «несоответствующих стилей работы» явно не вызывает доверия у многих. Что касается глубоких разногласий между сторонами, нам еще предстоит дождаться объяснений от Virtue AI.