Grayscale 연구 담당자: 더 저렴한 대리 AI가 컴퓨팅 수요를 증가시킬 것이다

Grayscale 연구 책임자 Zach Pandl은 10월 8일 칼럼 The Stack에서 AI 수요가 증가하고 있으며, 이는 사용 비용이 감소하고 기술이 더 자율적으로 작업을 수행할 수 있게 되어 계산 능력 및 AI를 지원하는 물리적 인프라에 대한 수요가 증가하고 있다고 밝혔습니다. 더 낮은 비용은 더 많은 AI 활동을 가능하게 하고, 오픈 소스 가중치 모델의 저가 경쟁이 토큰 가격을 낮추고 있으며, 더 저렴한 AI는 더 많은 애플리케이션과 자동화된 워크플로우를 경제적으로 가능하게 합니다.

문중에서는 Anthropic의 최신 Sonnet 모델이 회사에 따르면 각 작업의 비용을 최대 30% 낮출 수 있다고 예를 들었습니다. OpenAI가 9월 29일에 출시한 상시 작동 에이전트 dots는 사용자 목표를 향해 24시간 작업할 수 있으며, 이는 계산 능력 수요를 크게 증가시킬 수 있습니다. Pandl은 챗봇이 주로 질문에 답하는 반면, 에이전트는 목표 달성을 위해 다단계 프로세스를 수행하며, 고객 회의 준비와 같은 작업은 한 번의 채팅 상호작용에 비해 5배에서 50배의 토큰을 소모할 수 있다고 비교했습니다. 상시 작동 에이전트는 처리 범위를 단일 대화 외부로 확장할 수도 있습니다.

Pandl은 골드만삭스의 예측을 인용하여, 2030년까지 토큰 소비가 24배 증가할 것으로 예상되며, 이는 주로 에이전트에 의해 주도될 것이라고 언급했습니다. 효율성이 향상되더라도 사용량이 더 빠르게 증가하면 총 계산 능력 수요는 여전히 증가할 수 있습니다. 그는 디지털 활동이 여전히 전력, 데이터 센터 및 GPU와 같은 시간 소요 물리적 인프라에 의존하고 있으며, 더 저렴한 AI는 계산 능력 공급의 긴장과 공존할 수 있다고 지적했습니다. 또한 CoreWeave가 최근 더 높은 계산 능력 가격으로 새로운 계약을 체결했다고 언급했습니다. 그의 결론은 더 저렴한 AI와 더 강력한 에이전트가 사용 사례와 사용량을 확장하여 효율성 향상을 상쇄할 수 있으며, 이는 희소한 계산 능력 수요를 지지하고 그 소유자에게 유리하다는 것입니다.