플로리다 여성, Claude로 일기 쓰고 Anthropic이 검토 후 신고

Decrypt에 따르면, 미국 플로리다주 보니타 스프링스의 여성 카를리 미셸 헬러가 클로드를 일기처럼 사용한 혐의로 체포되었다. 조사관들은 그녀가 9월 26일에 "사격" 리 카운티 보안관 사무실에 대한 내용을 작성했으며, 다음 날 새로운 총을 구입했다고 밝혔다고 전했다. Anthropic의 안전 시스템은 이러한 대화를 심각한 내용으로 표시하였고, 플랫폼은 인력 검토 팀에 이 사건을 넘겼으며, 후자는 법 집행 기관에 보고하였다. 경찰은 이를 바탕으로 헬러를 특정하고 그녀의 거주지로 가서 그녀를 구금하였으며, 그녀는 서면으로 폭력 위협을 한 혐의로 기소되었고, 사건은 11월에 재판이 열릴 예정이다.

Anthropic의 소비자 약관은 사용자 입력, 출력 또는 행동을 법 집행 기관에 보고할 권리를 "자체적으로 결정"할 수 있음을 명확히 하고 있다. 2026년 9월 10일에 발효된 개인정보 보호정책 또한 회사가 심각한 피해를 예방하기 위해 공개하는 것이 합리적으로 필요하다고 선의로 믿을 경우 경찰과 데이터를 공유할 수 있도록 허용하고 있다. 사용자가 데이터를 모델 훈련에 사용하지 않기로 선택하더라도, Anthropic은 여전히 3개월 이내에 해당 데이터를 사용할 수 있으며, 5년이 아닌; 검토를 위해 표시된 대화는 유해 콘텐츠 탐지 능력을 개선하는 데 사용될 것이다.

이는 첫 번째 사례가 아니다. 샌프란시스코 표준지에 따르면, Anthropic은 한 사용자를 경찰에 인계한 바 있으며, 해당 사용자는 AR-15 소총을 구입했다고 주장하며 회사 CEO 다리오 아모데이를 조준경에 놓았다고 전해졌다. 그는 단지 농담이었다고 주장했으며, 보도가 나왔을 때 체포되거나 기소되지 않았고, Anthropic 대변인은 이 사건이 "우리의 보호 프로세스가 예상대로 작동했다"고 말했다.