ByteDance Seed thành lập bộ phận an toàn và căn chỉnh mô hình lớn

ByteDance Seed gần đây đã phát hành một email nội bộ, thông báo thành lập bộ phận Seed Model-Alignment&Preparedness, do Diên Lâm phụ trách và báo cáo cho người phụ trách Seed, Ngô Vĩnh Huy. Đội ngũ Responsible AI và một số thành viên của đội Chat sẽ chuyển sang bộ phận mới.

Bộ phận này nhằm tăng cường đầu tư vào an toàn và định hướng căn chỉnh. Cốt lõi của việc căn chỉnh là đảm bảo hành vi của mô hình phù hợp với ý định và ràng buộc an toàn của con người, nhằm nâng cao khả năng an toàn của Mô hình Agent và phòng ngừa các rủi ro từ các khả năng tiên tiến như hóa học, sinh học, phóng xạ, hạt nhân.