분석: Anthropic과 OpenAI가 연이어 보안 취약점을 드러내면서 AI 모델의 안전성에 대한 우려가 커지고 있다

The Information에 따르면, Anthropic과 OpenAI에서 잇따라 발생한 안전 사건이 AI 모델 자체의 안전성에 대한 시장의 우려를 불러일으켰습니다.

현재 Anthropic은 Claude Mythos 모델이 사용자에 의해 무단으로 접근되었을 가능성을 조사하고 있습니다. 거의 동시에 OpenAI도 Codex 애플리케이션에서 아직 출시되지 않은 여러 모델을 우연히 공개한 것으로 드러났습니다. 업계의 의견은 이러한 취약점 사건이 AI 기업의 안전 관리 능력에 대한 검토를 강화했으며, 현재 AI 기술이 빠르게 발전하는 과정에서 안전 시스템이 여전히 개선이 필요하다는 것을 반영한다고 지적합니다. 분석에 따르면, 네트워크 안전 능력을 주로 하는 AI 모델 제공업체조차도 여전히 상당한 안전 도전에 직면해 있습니다. AI가 점차 네트워크 공격 방어에 사용됨에 따라, 그 플랫폼의 안전성과 접근 제어 문제 또한 주요 위험 요소로 떠오르고 있습니다.