扎克伯格：实验室有激励推进对齐，Meta 推迟 Muse 聚焦安全

ChainCatcher 消息，扎克伯格发文称，每个实验室都有责任和激励以所需速度安全训练模型，并有能力自行采取行动。人们不会使用与自己不对齐、不按要求行事的智能体，实验室因此有强烈自然激励提升模型对齐。信任和对齐正迅速成为区分智能体与模型的最重要能力，任何不聚焦对齐的实验室都将落后。

扎克伯格表示，实验室若模型造成伤害将面临重大责任，因此也有强烈激励加以防范。Meta 将 Muse 推迟数月发布以聚焦安全和安保，并未要求其他实验室先行效仿，只是将其作为日常工作的一部分。聘请独立评估者和顾问是行业最佳实践，MSL 已在多个领域这样做。将大部分算力用于服务人们而非竞相递归自我改进，是确保安全开发该技术的最佳方式之一，Meta 已作出这一承诺。