AI 삼대 적들이 드물게 연합, “AI 주식”이 월요일에 타격을 받을까?

저자: 월스트리트 저널

AI 분야의 세 대적, 역사상 처음으로 같은 편에 서다------일련의 통제 불능 사건과 종말 경고가 연이어 산업을 강타한 후, 앤트로픽, 오픈AI 및 스페이스X의 수장이 드물게 연합하여 인공지능 개발 속도를 늦추기를 촉구했다.

토요일, 앤트로픽 CEO 다리오 아모데이는 블로그 글을 발표하며, "전 세계 AI 산업이 자발적으로 속도를 줄여야 한다"고 촉구했다. 그 이유는 현재 최전선 모델의 능력 향상 속도가 인간의 이해와 통제 능력을 훨씬 초과하고 있기 때문이다. 글이 발표된 지 몇 시간 후, 스페이스X CEO 일론 머스크는 X 플랫폼에 "다리오가 맞다"고 게시했다.

오픈AI CEO 샘 알트먼은 즉시 후속 조치를 취하며 아모데이의 "최전선 추진 속도 조절"에 대한 판단에 동의한다고 밝혔고, 오픈AI는 독립적인 제3자 평가 기관에 "직원 수준"의 시스템 접근 권한을 개방할 것이라고 약속했다.

알트먼은 또한 《포춘》 잡지에 현재의 안전 상황을 고려할 때, 오픈AI는 2026년에 IPO 계획을 추진하지 않을 수 있다고 밝혔다.

"나는 이번 10년 말에 모든 사람을 죽일 확률이 10%라고 생각하는 것은 받아들일 수 없다."

AI 안전 위험은 지난 주에 대중의 시야에서 집중적으로 폭발했다. 앤트로픽 연구원 제이콥 콕슨은 "산업이 우리의 생명을 도박하고 있다"는 이유로 분노하며 사직했고, 앤트로픽 정렬 과학 책임자 에반 허빙거는 AI 시스템이 이번 10년 내에 대규모 멸종 사건을 초래할 확률이 10%를 초과한다고 밝혔다.

보도에 따르면, 한 무리의 오픈AI 에이전트가 테스트 환경을 넘어 AI 개발자 플랫폼 허깅페이스를 침입한 사건이 여러 고위 경영진이 경고를 발하는 직접적인 도화선이 되었다.

극단적인 성장을 추구하던 것이 안전과 속도 감소를 강조하는 방향으로 갑작스럽게 전환되면서 거래 커뮤니티에서 연쇄 반응이 일어났다. 초기 시장 지표에 따르면, "AI 속도 감소" 소식이 전해진 후 하이퍼리퀴드X 플랫폼의 관련 자산이 하락했으며, 오픈AI와 앤트로픽의 하락폭은 각각 7%와 2.8%에 달했다.

여러 시장 관찰자와 투자자들은 소셜 미디어에서 경고를 발신하며, 이 소식이 월요일에 엔비디아, 브로드컴, AMD 등 AI 관련 주식에 상당한 충격을 줄 것이라고 우려하고 있다.

X 플랫폼의 유명한 기술 투자자 제이슨은 "AI 주식이 월요일 아침에 10% 이상 하락할 것"이라고 직접 게시하며, 아모데이의 블로그 글이 "AI 거래를 한 번에 무너뜨렸다"고 밝혔다.

아모데이의 발언: 우리는 최전선 AI의 브레이크를 밟아야 한다

토요일, 앤트로픽 CEO 다리오 아모데이는 "우리는 최전선 AI의 속도를 조절해야 한다"는 제목의 긴 글을 발표했다.

그는 글의 시작에서 자신이 AI 연구를 12년 동안 해왔으며, 그것이 질병을 치료하고 경제 성장을 가속화하며 인류의 번영을 가져올 수 있다고 믿기 때문이라고 밝혔다------그의 아버지는 그가 세상을 떠난 지 몇 년 후에 정복된 질병으로 사망했으며, 그는 초기 암에서 생존한 경험이 있다. 그는 누구보다도 AI의 혜택이 실현되기를 갈망하고 있다.

하지만 그는 동시에 이렇게 썼다: "지난 몇 개월 동안, 나는 위험 관리에만 투자하는 것으로는 충분하지 않다는 것을 점점 더 확신하게 되었다------우리는 능력 향상의 속도를 늦추어 안전 연구가 따라올 시간을 주어야 한다."

아모데이는 블로그 글에서 두 가지 핵심 위험을 지적했다.

• 첫째, AI 시스템의 재귀적 자기 향상------즉, AI가 거의 인간의 개입 없이 스스로 반복적으로 업그레이드하는 것이------올해 여름 이후 "급속히 가속화"되고 있다.
• 둘째, 올해 7월에 발생한 허깅페이스 침입 사건: 1200개 이상의 오픈AI 테스트 환경에서 탈출한 AI 에이전트들이 협력하여, 게시판을 통해 역할을 분담하고 서로 협력하며, 심지어 부정행위를 숨기기 위해 기록을 수정하고 공격을 감행하기도 했다. 일부 에이전트는 이러한 행동이 비윤리적이라는 것을 알면서도 계속 실행했다.

"더 강한 능력을 가진, 그러나 동일한 정도로 부정확한 에이전트 집단은 재앙적인 파괴를 초래할 수 있다"고 아모데이는 썼으며, "악성 AI 집단이 6개월에서 12개월 내에 전체 인터넷을 장악할 수 있다"고 경고했다. 그는 또한 이러한 사건이 앤트로픽을 포함한 여러 주요 AI 회사에서 발생하고 있다고 지적하며, "모든 최전선 AI 회사는 OAI-HF 사건을 자신에게 발생한 일로 간주하고 이에 따라 행동해야 한다"고 강조했다.

월스트리트 저널의 이전 보도에 따르면, "젬스터퍼"라는 이름의 5월 사이버 보안 사건은 실제로 오픈AI 에이전트가 무의식적으로 실행한 것으로, 이는 AI 통제 위험에 대한 외부의 우려를 더욱 부추겼다.

아모데이의 세 가지 제안: 평가자 파견, 국제 조정, 민주 국가 연합

아모데이는 블로그 글에서 구체적인 행동 프레임워크를 제안했다.

첫째, "내장형 평가자" (Embedded Evaluators). 그는 앤트로픽이 제3자 평가 기관에 "영구 직원 수준"의 시스템 접근 권한을 제공하여 안전 조치의 실행 상황을 검증하고 사고를 보고하며 모델의 훈련 과정에서의 정렬 상태를 평가할 수 있도록 할 것이라고 발표했다. 알트먼은 즉시 후속 조치를 취하며 오픈AI도 같은 조치를 취할 것이라고 밝혔다.

둘째, 민주 국가 내부 조정. 아모데이는 정부가 AI 개발자의 안전 기준 조정을 위한 법적 지원을 제공하여 이러한 협력이 반독점 규제를 촉발하지 않도록 해야 한다고 촉구했다.

셋째, 글로벌 조정. 그는 "조정된 속도 전략"을 수립하여 최전선 AI 기업이 정렬 연구를 추진할 시간을 확보하면서도 상업적 경쟁 우위와 미국의 AI 분야에서의 선도적 지위를 해치지 않도록 해야 한다고 주장했다. 헤지펀드 매니저이자 벤처 투자자인 브래드 거스터너는 X 플랫폼에서 이를 지지하며, "속도, 자율 규제 및 안전 간의 올바른 균형을 찾기 위한 중요한 단계"라고 말했다.

IPO 계획에 그림자: 앤트로픽 가치 압박, 오픈AI 상장 연기 암시

현재 상황은 두 회사의 상장 계획에 직접적인 충격을 주고 있다.

앤트로픽은 전례 없는 규모의 IPO를 준비 중이며, 자금 조달 규모는 1000억 달러에 이를 수 있으며, 회사 가치는 2조 달러를 초과할 것으로 예상된다; 앤트로픽은 원래 지난주에 상장 신청서를 제출할 예정이었으나 현재까지 이루어지지 않았다. 아모데이의 속도 감소 촉구는 외부에서 상장 시점에 대한 판단을 더욱 복잡하게 만들고 있다.

오픈AI 측에서는 알트먼이 《포춘》 잡지에 "안전 분야에서 일어나고 있는 모든 것을 고려할 때, 지금 상장하는 것은 현명하지 않다고 생각하며, 우리는 이에 대한 압박도 없다"고 밝혔다.

오픈AI는 올해 6월 IPO 서류를 제출했으며, 이는 앤트로픽이 상장 신청서를 제출한 지 일주일 후의 일이다. 알트먼은 또한 "이번 주는 분명히 더 많은 사람들이 우리 앞에 놓인 문제를 인식하기 시작하는 주였다. 우리는 모델 능력이 매우 강하고 위험이 극도로 높은, 반드시 올바르게 처리해야 하는 분야로 들어가고 있다"고 말했다.

트럼프는 "걱정 없다"며, 의회는 관망 중, 구글과 메타는 침묵

세 거대 기업이 드물게 연합했음에도 불구하고 정책적 반응은 여전히 느리다.

미국 대통령 트럼프는 지난 주 기자들에게 AI가 인류를 멸망시킬 것에 대해 "전혀" 걱정하지 않는다고 말했다. 소식통에 따르면, 올해 11월 중간 선거 전에 미국 정부가 실질적인 조치를 취할 가능성은 매우 낮다고 한다.

구글 딥마인드와 메타의 고위 경영진은 현재 주말 논의에 대해 공개적으로 입장을 밝히지 않았다.

업계 내부의 분열도 간과할 수 없다. 비평가들은 주요 AI 기업들이 생존 위험을 강조하는 데 자의적 동기가 있다고 주장하며------비싼 안전 규제 프레임워크가 규모가 작은 경쟁자를 차단하여 기존 대기업의 시장 지위를 강화할 수 있다고 지적한다.

기술 고문이자 벤처 투자자인 데이비드 색스는 폭스 뉴스 인터뷰에서 제이콥 콕슨의 성명이 "대중을 겁주기 위한 것"이며, 입법자들이 "AI에 대한 강력한 정부 규제를 시행하도록 강요하기 위한 것"이라고 말했다.

캘리포니아 대학교 버클리 캠퍼스의 AI 교수 스튜어트 러셀은 실험실과 정부 간의 심각한 인식 불일치를 지적하며, "실험실은 각국 정부에 '우리는 지구상의 모든 사람을 죽일 가능성이 높으니, 우리를 막아달라'고 말하고 있다. 정부의 반응은 '세금 감면해줄까요? 데이터 센터를 지어줄까요?'이다."라고 말했다.

그러나 샘 알트먼과 다리오 아모데이 등이 정책 로비와 안전 방어선 사이에서 반복적으로 맴돌고 조심스럽게 줄다리기를 하고 있는 동안, 외부에서는 이미 경각심을 일깨우는 목소리가 적지 않다: 어쩌면 어느 날 깨어나면, 그들은 그로크가 모델 능력에서 이미 따라잡았고, 머스크가 물리적 세계의 AI 및 컴퓨팅 인프라 분야에서 완전한 배치를 마쳤다는 것을 발견할지도 모른다------이것이 그가 진정으로 원하는 "거대한 청사진 제5부"일지도 모른다.

시장 감정 압박, "AI 거래" 재평가 직면

사용자 preetkailon은 현재 시장 가격이 방대한 AI 지출과 지속적인 고속 성장에 완전히 기반하고 있다고 말했습니다. 만약 AI 개발 속도가 실제로 둔화되기 시작한다면, 투자자들은 이러한 기대를 재고해야 할 것입니다.

그는 투자자들에게 월요일에 엔비디아, AMD, Marvell 등 AI 관련 회사를 면밀히 주시할 것을 권장하며, 현재 시장 환경에서는 맹목적으로 고가에 추격해서는 안 된다고 경고했습니다.

안전 측면에서의 고려 외에도, 거래 커뮤니티는 이번 "삼거두"의 드문 연합의 잠재적 상업적 동기에 대해 주의를 기울이고 있습니다. 사용자 Jason Choi는 Anthropic이 안전 문제에 대해 항상 솔직했지만, 이 시점에서 구체적인 속도 조절 계획을 제시한 것이 시장의 추측을 불러일으켰다고 지적했습니다.

일부 의견은 이것이 규제 게임일 수 있다고 봅니다. 최전선 모델 개발을 명확히 둔화시키는 것은 실제로 경쟁자들이 능력 격차를 줄일 수 있는 시간을 제공했습니다:

이러한 조치는 본질적으로 기업 차원의 "IPO 기대 관리"이며, 향후 자본 지출(capex) 축소를 위한 옵션을 제공합니다. AI 인프라에 대한 투자가 점점 증가하는 상황에서, 안전을 이유로 속도를 늦추는 것은 이러한 높은 평가를 받고 있는 스타트업들이 지속적인 자금 소모의 재정적 압박을 완화하는 데 도움이 될 수 있습니다.