추론

ARK Invest 창립자 캐시 우드(Cathie Wood)는 AI와 같은 혁신 플랫폼이 가져오는 비용 절감이 점차 더 넓은 경제 분야로 전이되어 생산성과 기업 수익성을 높이고, 인플레이션율을 대부분 투자자들이 예상하는 수준 이하로 낮출 것이라고 말했습니다. 이를 일컬어 "양호한 디플레이션"이라고 합니다.캐시 우드는 현재 AI 추론 비용이 성능 수준이 변하지 않는 상황에서 매년 99.99% 감소하고 있으며, 동시에 OpenAI의 연간 수익 운영률이 200억 달러에서 700억 달러로 증가했다고 밝혔습니다. 이는 비용 절감이 수요의 빠른 성장을 이끌고 있음을 나타냅니다.ARK Invest는 실제 GDP 성장률이 한 자릿수의 높은 수준에 이를 수 있을 것으로 예상하고 있으며, 많은 사람들이 이 예측을 "미친" 것이라고 생각합니다. 더 강한 실제 성장 환경에서는 오히려 금리가 상승할 수 있습니다.

The Information에 따르면, 애플(AAPL.O)은 서버 시장으로의 복귀를 고려하고 있으며, 엔비디아(NVDA.O)와 네트워크 기술 사용에 대해 협상 중이다.애플이 계획하고 있는 서버는 2029년에 출시될 예정이며, 목표 시장은 인공지능 추론 분야이다.

Salesforce와 엔비디아가 공동으로 KOA를 출시했습니다. 이는 엔비디아 NVIDIA NeMoTron을 기반으로 구축된 첫 번째 CRM 추론 모델입니다.

Anthropic은 약 4.81억 건의 모델 상호작용 기록을 검토한 결과, Claude 모델이 사이버 보안 평가 중 실제 인터넷에 잘못 접속하여 제3자 시스템을 공격한 사건 4건을 확인했습니다. 이 사건은 Claude Mythos 5, Opus 4.6/4.7 및 하나의 내부 연구 모델과 관련이 있습니다. 사고는 제3자 평가 환경의 잘못된 구성으로 인해 발생했으며, 평가 중 공식 제품의 사이버 보안 방어가 활성화되지 않았습니다.Anthropic은 핵심 정렬 위험을 모델이 작업 주도 하에 나타내는 "편향 추론"과 "무모한" 행동으로 요약했습니다. 그 중 Claude Mythos 5는 "모의 환경"에 있다고 생각한 상태에서 PyPI에 악성 패키지를 업로드하고, 유출된 자격 증명을 이용해 보안 업체의 실제 데이터베이스에 접근한 사례가 있었습니다. 회사는 새로운 평가, 모니터링 및 정렬 훈련을 도입했으며, 독립 기관 METR을 초청하여 외부 조사를 진행하고 있습니다.

B.AI 플랫폼은 Anthropic의 최신 Mythos급 범용 모델 Claude Fable 5.1이 공식적으로 API에 접속되었음을 발표했습니다.이 모델은 Claude Mythos 5.1과 동일한 기본 모델을 사용하며, 고강도 코드 작성, 장기 Agent 작업 흐름 및 복잡한 지식 작업에 대해 깊이 최적화되어 있습니다. CursorBench 3.2.0 테스트에서 최고 연산 강도로 73.4%의 우수한 성능을 기록했습니다.API 접속이 이제 열렸으며, 개발자는 전용 할인 혜택을 누릴 수 있습니다------공식 채널은 8.5 할인, 자율 서비스 제공자는 6 할인까지 가능합니다. B.AI는 지속적으로 세계 최고의 모델을 도입하여 개발자에게 더 강력하고 비용 효율적인 AI 능력 선택을 제공합니다.

지표가 발표한 경량급 플래그십 모델 GLM-5.3 Flash는 DeepSeek V4 Flash에 대응하기 위해 설계되었으며, 10만 장 이상의 국산 칩 클러스터를 호출하여 추론 서비스를 제공합니다. 이 모델의 파라미터 규모는 약 300B로 GLM-5.3의 40%에 해당하며, DeepSeek V4 Flash와 기본적으로 비슷합니다. MoE 아키텍처를 채택하여 실제 활성화된 파라미터는 약 18B이며, 원래의 멀티모달 능력을 갖추고 있어 이미지와 비디오 입력을 지원합니다. 또한, 지표가 코딩 전략에 집중한 후 첫 번째로 멀티모달 능력을 갖춘 새로운 모델입니다.종합 평가 점수는 이전 세대 플래그십 GLM-5.2를 초과하며, Claude Opus 4.8과 동일하고 DeepSeek V4 Pro 정식 버전 관련 점수보다 높습니다. 가격은 백만 토큰 입력 0.8 위안, 출력 2.8 위안, 캐시 적중 0.23 위안으로 GLM-5.3의 약 10분의 1이며, 출시 전 두 주 동안 반값 할인 혜택을 제공합니다. 모델은 전면적으로 국산 컴퓨팅 파워에 적합하며, 온라인 트래픽은 국산 칩이 수용합니다. 지표는 클러스터 하드웨어 효율성과 단위 토큰 비용이 주류 엔비디아 GPU 수준에 도달했다고 주장합니다. 이 모델은 이전에 코드명 Ox Alpha로 해외 플랫폼에서 익명 테스트를 진행한 바 있습니다.

중과학서광 관련 인사는 회사가 대모델 추론을 위한 새로운 세대의 단어 가속 솔루션을 발표할 예정이며, 주로 추론 과정에서의 반복 계산과 데이터 스케줄링 문제를 처리할 것이라고 밝혔습니다.현재, 중과학서광 ParaStor 분산 저장소는 국내 최초의 전량산 10만 카드 AI 초집단 서광 8000(등봉)에 적용되어 대규모 계산 작업에 데이터 처리량과 탄력적 확장 지원을 제공합니다. 사이디 컨설턴트의 최신 보고서에 따르면, 중과학서광은 AI, 교육, 구체적 지능 및 자율주행 네 개의 세분화된 산업에서 1위를 차지하고 있습니다.

Cerebras는 이번 주에 네 번째 세대 AI 추론 시스템 CS-4를 발표했습니다. 동일한 5nm WSE-3 웨이퍼를 기반으로 하여 클럭 주파수와 전력 소비를 두 배로 늘려 성능을 두 배로 향상시켰습니다. 단일 CS-4 캐비넷은 3개의 웨이퍼를 수용할 수 있으며(CS-3는 2개), 모듈화된 "백팩" 디자인으로 제조 및 배포를 간소화하였고, TDP는 약 125에서 135kW입니다. CS-4는 사용자당 초당 거의 4000 토큰의 추론 속도를 제공하며, 이는 CS-3의 약 두 배에 해당하며, AMD, AWS Trainium 등 이종 시스템과의 분해 추론을 지원합니다.Cerebras는 CS-4가 엔비디아 Rubin의 칩 내 메모리 대역폭의 약 2000배(43PB/s)를 제공한다고 주장하지만, 44GB SRAM 용량은 변하지 않았으며, 긴 컨텍스트 추론에는 여전히 다중 웨이퍼 스택이 필요합니다. DeepSeek V4 Pro(1.6T 파라미터)를 예로 들면, 1M 컨텍스트 윈도우에서 약 20세트의 시스템이 필요하고, 256 동시 처리에서는 약 40세트의 시스템이 필요하며, 이에 따른 CAPEX는 2000만 달러를 초과합니다. Cerebras는 OpenAI 등 고객과 협력하고 있으며, 매년 약 2배의 성능 향상을 목표로 하고 있으며, 2027년까지 20배의 처리량 증가를 목표로 하고 있습니다. CS-4의 "백팩" 캐비넷 디자인은 다음 세대 "Nexus" 플랫폼으로 이어질 것입니다.

디자인 소프트웨어 회사 Canva는 AI 기능의 제공 비용이 예상보다 훨씬 높아짐에 따라 연간 수익 성장 예상치를 20%로 3분의 1 낮췄습니다. CEO 멜라니 퍼킨스는 사용자들이 AI 기능에 대한 수요가 "예상보다 상당히 초과했다"고 밝혔지만, 회사는 구조 최적화, 단위 비용 절감 및 비즈니스 모델 개선을 완료하기 전까지 대규모 관련 제품 출시를 연기하기로 결정했습니다. 4월에 Canva AI 2.0을 출시한 이후, 단일 작업 비용은 거의 90% 감소했지만, AI 사용자가 생성한 디자인 양은 이전 버전의 3배에 달하며, 경제성은 여전히 압박을 받고 있습니다.이 사례는 소프트웨어 산업의 일반적인 곤경을 반영합니다: AI 추론 비용이 전통적인 소프트웨어 "제로 마진 비용"의 수익 논리를 깨뜨리고 있습니다. Pitchbook 분석가는 Canva와 Figma가 이 추세의 "가장 뚜렷한 신호"라고 지적했습니다. Figma의 2분기 자유 현금 흐름 이익률은 1분기의 27%에서 14%로 감소했으며, 3분기 수익 성장률은 48%에서 36%로 둔화될 것으로 예상됩니다. Canva는 이전에 420억 달러의 가치로 직원 주식을 매각했으며, 시장은 2026년 상장을 예상했지만, 현재 분석가들은 IPO가 내년으로 연기될 가능성이 있다고 보고 있습니다.

연구 기관 SemiAnalysis가 발표한 분석에 따르면, SpaceX는 2027년 말까지 약 10GW AI 데이터 센터 용량을 구축할 것으로 예상되며, 이 중 50%가 추론 서비스에 사용될 경우, GW당 연간 수익이 1000억 달러를 초과한다고 가정할 때, 연간 수익은 3000억 달러에 이를 수 있습니다. SpaceX CEO인 일론 머스크는 첫 번째 재무 보고서에서 "보수적으로 추정하면" 2027년에 6-8GW가 추가될 것이며, 실제로는 10GW를 초과할 수 있다고 밝혔습니다.SemiAnalysis의 추론 시뮬레이터는 GB300 클러스터에서 현재의 신생 클라우드 가격(약 3달러/GPU 시간)으로 운영할 경우, OpenAI와 Anthropic과 같은 최전선 모델 회사들이 GW당 연간 수익이 1000억 달러를 초과할 수 있으며, 연간 비용은 약 120억 달러에 이를 것이라고 보여줍니다. 마이크로소프트는 OpenAI 모델에 대한 완전한 접근 권한을 바탕으로 훈련 비용을 부담하지 않고도 동일한 규모의 수익을 확보할 수 있습니다. 분석에 따르면, 마이크로소프트는 2026년까지 10GW 데이터 센터 계약(총 가치 3000억 달러 초과)을 체결했으며, 90일 취소 조항이 있어 계약 위험을 크게 줄였습니다.SpaceX의 건설 진행 상황에 대해 SemiAnalysis는 머스크가 현장 가스 발전, 대형 전력 변압기를 건너뛰는 등의 병목 현상을 해결하고, 병행 시공 및 조정 프로세스를 단축함으로써 건설 주기를 대폭 단축할 것이라고 보고 있습니다. 테네시주 사우스헤이븐 발전소는 2월의 27대 터빈(약 495MW)에서 7월의 69대(1.7GW)로 확장되었으며, "MiniHard" 프로젝트는 약 5개월 만에 450-500MW를 건설할 수 있습니다. 그러나 10GW 목표는 여전히 토지 승인, 가스 공급 및 장비 납품 등 여러 가지 도전에 직면해 있습니다. 이 분석은 모델 추론을 기반으로 하며, 실제 실행에는 여전히 불확실성이 존재합니다.

로이터 통신에 따르면, AMD는 AI 추론 칩 스타트업 Taalas를 인수한다고 발표했습니다. 거래 금액은 아직 공개되지 않았습니다.이번 인수는 AMD의 인공지능 추론 칩 분야의 기술 능력을 강화하기 위한 것이며, Taalas의 기술을 Instinct GPU 가속기 로드맵에 통합할 계획으로, 시스템 수준 솔루션 개발을 더욱 추진할 것입니다.

황仁훙은 X 플랫폼에 글을 올려 Alpamayo 2 Super의 출시를 발표했습니다. 이는 엔비디아가 자율주행 분야를 위해 개발한 최첨단 오픈소스 추론 모델입니다. 황仁훙은 Alpamayo 2 Super가 환경을 "볼" 수 있을 뿐만 아니라 복잡한 세계를 이해하고 추론할 수 있으며, 행동하기 전에 생각할 수 있다고 밝혔습니다. 이 모델은 로봇 택시, 자율주행 트럭, 셔틀버스, 배달 차량, 농업 기계 및 미래의 대규모 이동 로봇 시스템의 핵심 모델로 사용될 수 있습니다.이 모델은 OpenMDW-1.1을 기반으로 상업적 용도로 개방되어 개발자와 기업이 모델 검토, 미세 조정 및 배포를 할 수 있도록 허용합니다. 황仁훙은 개방형 모델이 자율주행 시스템의 안전성과 신뢰성 향상에 기여한다고 말했습니다. 그는 다음 인공지능 물결은 로봇 기술에 속할 것이며, 자율주행 차량이 이 추세의 중요한 출발점이 될 것이라고 언급했습니다.

공식 소식에 따르면, Marvell Technology는 AI 인프라를 위한 차세대 메모리 솔루션 조합을 발표하였으며, 서버급 AI 스토리지, 랙급 CXL 메모리 확장 및 풀링, 다중 캐비닛 광 상호 연결 공유 메모리를 포함하여 Agentic AI 추론 과정에서 증가하는 메모리 용량과 대역폭 병목 현상을 해결하는 것을 목표로 하고 있습니다.Marvell은 AI 모델의 규모가 확대되고, 컨텍스트 윈도우가 연장되며, KV Cache 수요가 증가함에 따라 전통적인 컴퓨팅과 메모리의 긴밀한 결합 아키텍처가 AI 추론 효율성을 제한하고 있다고 밝혔습니다. 메모리 분리(memory disaggregation)를 통해 메모리 자원을 컴퓨팅 자원과 더 독립적으로 확장할 수 있어 GPU 활용도를 높이고 데이터 이동 지연을 줄일 수 있습니다. 이번에 발표된 제품은 다음과 같습니다:Bravera SC6 PCIe 6.0 SSD 컨트롤러: AI 추론 스토리지 시나리오를 위해 설계되었으며, 클라우드 서비스 제공업체가 더 많은 KV Cache를 고성능 SSD로 이전하여 인프라 효율성을 높이는 데 도움을 줍니다. 이 제품은 다수 공급업체 NAND와 호환되는 아키텍처를 채택하고 있으며, 2026년 4분기부터 샘플이 제공될 예정입니다.Marvell Structera X 메모리 확장 솔루션: CXL 기술을 기반으로 하여 랙급 메모리 확장 및 자원 풀링을 지원하며, 데이터 센터가 메모리 자원을 보다 유연하게 공유하고 조정할 수 있도록 도와 AI 인프라 비용을 절감합니다.Marvell Photonic Fabric 광 상호 연결 메모리 솔루션: 광 상호 연결 기술을 통해 다중 캐비닛 공유 메모리 아키텍처를 구축하며, 최대 32TB의 온도 KV Cache 언로드를 지원하고 AI 추론 클러스터의 처리 능력을 향상시킵니다.Marvell은 Photonic Fabric 솔루션이 기존 데이터 센터의 공간 및 전력 소비 제한 내에서 최대 2배에서 3배의 Token 처리량 향상을 달성할 수 있으며, 더 큰 규모의 모델과 더 긴 컨텍스트 AI 애플리케이션을 지원한다고 밝혔습니다.Marvell의 고위 경영진 Will Chu는 AI 인프라가 단일 서버 아키텍처에서 컴퓨팅, 메모리 및 연결이 협력하여 운영되는 시스템으로 전환되고 있으며, 미래의 메모리는 자원 활용도와 Token 효율성을 높이기 위해 더욱 독립적으로 확장되어야 한다고 말했습니다.AI Agent와 대규모 모델 추론 수요가 지속적으로 증가함에 따라, 메모리 용량, 대역폭 및 데이터 전송 효율성이 계산 능력 다음으로 AI 인프라 경쟁의 새로운 초점이 되고 있습니다.

금십 보도에 따르면, 아마존 웹 서비스(AWS) CEO는 인공지능 사업이 훈련 단계에서 추론 단계로 전환하고 있다고 밝혔습니다.

보도에 따르면, 세 명의 관계자가 중국 AI 스타트업 DeepSeek가 자체 AI 칩을 개발하고 있다고 전했습니다. 이 칩은 주로 AI 계산의 추론 단계에 맞춰 설계되었으며, 새로운 모델 훈련에는 사용되지 않습니다. 이 조치는 회사가 엔비디아와 화웨이 칩에 대한 의존도를 줄이기 위한 것입니다.보도에 따르면, 이 칩 개발 계획은 약 1년 전 시작되었으며 현재는 초기 단계에 있습니다. DeepSeek는 칩 설계, 위탁 생산업체 및 저장소 회사 등 외부 파트너와 논의 중이며, 최근 몇 달 동안 비공식 경로를 통해 칩 설계 엔지니어 채용을 강화했습니다. 또한, 소식이 전해진 후 엔비디아의 주가는 장전 거래에서 약 1.6% 소폭 하락했습니다.분석가들은 개발이 성공할 경우, 이는 DeepSeek의 중대한 전략적 전환을 의미할 것이며, 글로벌 주요 AI 개발자들이 하드웨어 자율성을 추구하는 추세에 부합할 뿐만 아니라 화웨이가 국내 AI 칩 시장에서의 지위에 도전할 가능성이 있다고 보고 있습니다. 그러나 이 프로젝트는 여전히 긴 설계 주기, 대규모 자금 요구, 미국의 첨단 공정 및 고대역폭 메모리(HBM) 수출 제한 등 제조 장벽에 직면해 있습니다. 이 칩 개발 움직임은 최근 DeepSeek가 70억 달러의 첫 번째 자금을 모금할 계획에 대한 보도와도 일치합니다.

B.AI 플랫폼이 공식적으로 Claude Opus 4.8 모델을 출시했습니다. 이 모델은 가격이 4.7 버전과 동일한 기반 위에서, 코딩 및 추론 능력을 강화하고 여러 가지 주요 돌파구를 달성했습니다. 여기에는 코드 결함 검출 실패율이 약 4배 감소하고, 작업 진행 피드백이 더욱 객관적이고 정확해지며, 장시간 독립적으로 복잡한 작업을 수행하는 능력이 더욱 강화되어 자동화 개발 및 심층 추론 시나리오를 더 잘 지원할 수 있게 되었습니다.현재 Opus 4.8은 API 통합 및 웹 채팅 접근을 전면 개방하였으며, 사용자는 공식 웹사이트에 로그인하여 즉시 체험하거나 공식 문서를 참조하여 더 많은 기술 세부 정보를 확인할 수 있습니다.

AI 대리 플랫폼 Bankr의 창립자 deployer가 트위터에 약 10만 달러의 자금을 모금하여 Bankr 생태 프로젝트에 무료 LLM 추론 서비스를 제공할 것이라고 발표했습니다. 현재 Bankr 생태를 구축하고 있는 프로젝트는 곧 무료 추론 한도를 받을 수 있습니다. 그러나 공식 배포 전에 팀은 "전체 산업이 좋아할" 새로운 기능을 먼저 출시할 예정이며, 구체적인 세부 사항은 추후 발표될 것입니다.