ByteDance Seed создала отдел безопасности и согласования больших моделей

Компания ByteDance Seed недавно разослала внутреннее письмо, объявив о создании отдела Seed Model-Alignment&Preparedness, которым будет руководить Ян Линь и который будет подчиняться главе Seed У Вэньхуэю. Члены оригинальной команды Responsible AI и часть команды Chat перейдут в новый отдел.

Цель этого отдела - усилить безопасность и инвестиции в направление согласования. Ядром согласования является обеспечение того, чтобы поведение модели соответствовало человеческим намерениям и требованиям безопасности, чтобы повысить безопасность Agent Model и предотвратить риски, связанные с передовыми возможностями в области химии, биологии, радиации и ядерной энергетики.