Anthropic 모델이 필라델피아 경찰에 허위 살인 단서를 제출하다

로이터 통신에 따르면 10월 9일, 필라델피아 경찰은 성명에서 인공지능 회사 Anthropic의 모델이 필라델피아 경찰 웹사이트를 통해 허위 살인 사건 단서를 제출했다고 밝혔습니다. Anthropic은 이번 주 초 경찰에 통보하며 해당 제출이 자동화 테스트 프로세스에 의해 발생했다고 전했습니다.

경찰에 따르면, 단서는 PhillyUnsolvedMurders.com을 통해 제출되었으며, 날짜는 2026년 7월 18일로, 해결되지 않은 살인 사건과 관련이 있으며, 사건에 대한 정보를 알고 있다고 주장했습니다. 해당 제출은 스팸으로 분류되어 Real-Time Crime Center에 조사 및 검증을 위해 전달되지 않았습니다. 경찰은 또한 시스템에 대한 무단 접근이 발견되지 않았으며, 부서 데이터가 유출된 사실도 없다고 밝혔습니다.

Anthropic은 경찰에 이 상황을 발견한 후 관련 테스트 프로세스를 중단했으며, 향후 테스트에 검증 메커니즘을 추가할 계획이라고 알렸습니다. 회사는 금요일에 이 사건에 대한 보고서를 발표할 예정입니다. 로이터는 Anthropic이 즉각적인 댓글 요청에 응답하지 않았다고 전했습니다.