Anthropic 연구원이 사직하며 내년 AI가 통제 불능이 될 수 있다고 언급했습니다

앤트로픽 연구원 제이콥 콕슨이 사직을 발표하고 AI 산업을 떠날 준비를 하고 있습니다. 그는 지난 3년 동안 오픈AI와 앤트로픽에서 사전 훈련 연구를 해왔습니다. 그는 두 회사 모두 AI를 책임감 있게 발전시키지 않고 있으며, 스스로의 능력을 계속 향상시킬 수 있는 슈퍼 인텔리전스를 만들기 위해 경쟁하고 있다고 지적했습니다. "우리의 생명을 걸고 있습니다."

그는 올해 오픈AI에서 앤트로픽으로 이직한 이유는 후자가 모델 안전성을 더 중요하게 여겼기 때문이라고 밝혔습니다. 콕슨은 앤트로픽의 안전 작업이 진지하다고 인정했지만, 각 회사가 AGI(인간을 초월하는 범용 AI)를 먼저 만들기 위해 경쟁하는 한 안전을 포기하는 것은 피할 수 없으며, 한 회사의 자율성만으로는 문제를 해결할 수 없다고 생각합니다. 그는 두 회사에 대해 다음과 같이 평가했습니다: 오픈AI 내부의 많은 사람들이 이러한 위험이 얼마나 큰지 실제로 인식하지 못하고 있으며; 앤트로픽은 위험을 알고 있지만 다른 사람들을 믿지 못하므로 반드시 스스로 먼저 만들어야 한다고 생각합니다.

콕슨은 일부 AI 종사자들이 공개적으로 표현하는 것보다 훨씬 더 비관적이며, 심지어 AI가 이번 10년이 끝나기 전에 인류를 멸망시킬 것이라고 걱정하고 있다고 말했습니다. 그는 스스로 판단하기에, 가장 극단적인 상황에서는 내년 말까지 AI가 통제 불능 상태에 이를 수 있으므로 이러한 결정은 몇몇 회사의 엔지니어들만으로 결정되어서는 안 된다고 강조했습니다.