Anthropic이 METR에 직원 접근을 허용하고 독립적인 안전 평가를 추진합니다

10월 15일, Anthropic은 비영리 조직 METR의 한 팀에 직원과 유사한 접근 권한을 제공하기 시작했다고 발표했습니다. 이는 모델과 안전 관행을 평가하기 위한 것입니다. 회사는 지난달 독립적인 제3자 평가를 강화하겠다고 약속했으며, 백악관의 '슈퍼 인텔리전스 협약'에 서명했습니다. 이 협약에는 독립 외부 감사자 또는 평가자와 협력하겠다는 약속이 포함되어 있습니다. 지난 1년 동안, Anthropic은 METR과 협력하여 여러 개의 위험 보고서를 검토했으며, METR은 그 위험 평가 결과를 발표할 것입니다.

Anthropic은 6명의 METR 직원에게 회사 하드웨어, 사무 공간, 그리고 자체 위험 평가 팀과 대략 동등한 내부 도구 및 시스템 접근 권한을 제공했습니다. 고객 데이터, 변호사와 고객의 특권 정보, 모델 아키텍처 정보 등 몇 가지 명확한 범주를 제외하고, 직원들은 정렬 위험 작업을 수행하는 동료를 대하듯 정보를 공유하도록 권장받고 있습니다. METR은 위험 수준, 사건 또는 관행에 대한 분석을 발표할 수 있으며, Anthropic은 발표를 거부할 수 없지만, 미리 정의된 좁은 범주의 정보를 삭제해 달라고 요청할 수 있습니다. METR은 삭제 상황을 공개할 수 있으며, 삭제된 내용을 유출하지 않는 범위 내에서 삭제가 합리적이라고 생각하는지 설명할 수 있습니다. 이 arrangement은 실행 가능한 계약 하에 작업하는 소규모 팀에만 국한되며, 다른 METR 직원들은 해당 팀과의 작업이 분리되어 있습니다.

Anthropic은 동시에 SecureBio, Accenture와 협력하여 평가를 진행하고 있으며, Hugging Face를 포함한 다른 조직과 초기 논의를 진행하고 있습니다. SecureBio는 2026년 8월 위험 보고서의 화학 및 생물 무기 장을 검토하고 있으며, 이전 위험 보고서에 대한 파일럿 검토를 완료하고 발표했습니다.