BTC $63,810.62 -1.49%
ETH $1,782.51 -2.23%
BNB $586.13 -0.71%
XRP $0.9578 -0.29%
SOL $72.40 +1.40%
TRX $0.3068 +0.09%
DOGE $0.0584 -1.94%
ADA $0.1519 -0.93%
BCH $207.37 -0.22%
LINK $9.11 -0.63%
HYPE $68.36 +1.99%
AAVE $110.79 +2.25%
SUI $0.7191 -0.72%
XLM $0.1373 -0.20%
ZEC $930.61 +4.60%
AAPL $351.62 -0.55%
AMZN $255.62 -1.42%
GOOGL $281.72 -2.34%
MSFT $502.17 -4.19%
META $618.95 -1.58%
NVDA $154.22 -2.75%
TSLA $381.77 +0.33%
SNDK $786.54 -4.51%
INTC $54.00 -3.38%
SPCX $140.72 +2.84%
MU $695.54 -5.15%
AMD $490.72 -3.52%
BTC $63,810.62 -1.49%
ETH $1,782.51 -2.23%
BNB $586.13 -0.71%
XRP $0.9578 -0.29%
SOL $72.40 +1.40%
TRX $0.3068 +0.09%
DOGE $0.0584 -1.94%
ADA $0.1519 -0.93%
BCH $207.37 -0.22%
LINK $9.11 -0.63%
HYPE $68.36 +1.99%
AAVE $110.79 +2.25%
SUI $0.7191 -0.72%
XLM $0.1373 -0.20%
ZEC $930.61 +4.60%
AAPL $351.62 -0.55%
AMZN $255.62 -1.42%
GOOGL $281.72 -2.34%
MSFT $502.17 -4.19%
META $618.95 -1.58%
NVDA $154.22 -2.75%
TSLA $381.77 +0.33%
SNDK $786.54 -4.51%
INTC $54.00 -3.38%
SPCX $140.72 +2.84%
MU $695.54 -5.15%
AMD $490.72 -3.52%

semianalysis

전체
글
뉴스 플래시

first_img 늦은 소식: 황인훈은 2000년 이후 개인적인 관계로 인해 일자리를 잃은 S&P 500 기업 CEO 중 11번째입니다

《늦게》의 보도에 따르면, 황 인 훈이 개인적인 관계로 인해 엔비디아 CEO직에서 사임하면서 2000년 이후 11번째로 개인적인 관계로 직장을 잃은 S&P 500 기업의 CEO가 되었다. 데이터에 따르면, 이 11명의 CEO 중 8명이 2017년 MeToo 운동 이후에 퇴직했다. 황 인 훈은 그 중에서 가장 오랜 재직 기간(33년 7개월)과 가장 큰 회사 시가총액(약 4.18조 달러)을 가진 인물이다. 전통적인 직업 경영자와 달리, 황 인 훈은 3.4% 미만의 지분을 보유하고 있으며, 슈퍼 투표권이 없어 공공 투자자를 대표하는 이사회에 맞설 수 없다.보도에 따르면, 회사 지배구조 요인 외에도 지정학적 요인이 또 다른 원인일 수 있다. 반도체 연구 기관 SemiAnalysis는 1.5GW 이상의 제한된 엔비디아 GPU가 금지된 시장으로 유입되었다고 추정하며, 미국 정보 기관이 황 인 훈의 퇴직을 촉진하는 중요한 힘이라고 생각하고 있다. 이 소식이 발표된 후, 엔비디아 주가는 한때 14.4% 하락했으며, 마감 시 하락폭은 4.3%로 축소되었다.황 인 훈은 엔비디아의 절대적인 지배자로서 60명의 부하 직원의 보고를 직접 듣고, 주주들의 반대에도 불구하고 AI GPU에 투자하며 CUDA 생태계 장벽을 구축했다. 그는 1위 판매자이자 1위 구매자로, 투자나 보증을 통해 고객과 깊이 연결되어 있으며, 2분기까지 엔비디아의 비공식 보증 금액은 이미 5,300억 달러를 초과했다. 현재 임시로 맡고 있는 CFO 코레트 크레스는 일부 전략에 대해 다른 의견을 가지고 있다. 엔비디아는 창립자를 잃은 대기업이 풍부한 팀 속에서 경쟁력과 성장을 계속 유지하는 방법이라는 중대한 시험에 직면해 있다.

원경성하 기지 120MW 1년 내에 완공, 비용은 미국 동급의 약 5분의 1

미국 반도체 연구 기관 SemiAnalysis가 내몽골 우란차부의 원경성하 기지를 실지 탐방한 후, 이 중국 AI 데이터 센터 단지의 건설 비용이 미국 유사 프로젝트의 5분의 1에 불과할 것이라고 발표했습니다. 성하 기지의 첫 번째 120MW 용량은 1년도 채 되지 않아 건설 완료 및 인도되었습니다. 올해 8월 6일, 1기 기반 시설이 완공되었고, 풍력 및 에너지 저장 기업 원경기술이 기지의 공식 가동을 발표했습니다. 약 3개월의 기계 전기 조정 및 컴퓨팅 장비 배치를 거쳐, 1기 약 200MW 프로젝트는 10월 말에 전체 고객에게 인도되었습니다.전체 단지는 2027년 말까지 800MW의 IT 전력 공급 용량에 도달할 계획이며, 이는 미국 OpenAI의 Stargate 아빌린 핵심 단지 계획의 약 820MW에 해당합니다. 후자는 2026년 말까지 이 규모에 도달할 것으로 예상됩니다. Stargate는 여러 주를 아우르는 데이터 센터 건설 계획으로, 초기 목표는 2029년까지 미국에서 10GW의 AI 인프라 용량을 실현하는 것입니다. 올해 4월, OpenAI는 10GW 이상의 계획 용량을 미리 확보했다고 발표했지만, 이러한 데이터 센터는 아직 모두 건설되어 가동되지 않았습니다.원경기술은 발전, 에너지 저장, 전력 공급 및 데이터 센터 건설을 통합하여, 총 설치 용량 420MW의 두 개 풍력 발전소를 자체 건설하고 배터리 저장 장치를 갖추었습니다. 목표는 첫 두 기 데이터 센터의 60% 이상의 전력이 자사 풍력에서 오는 것입니다. 반면, 미국 Stargate 아빌린 단지는 주로 전력망과 현장 가스 발전 시설에 의존하여 전력을 공급합니다. 원경은 한 개 5MW 기계실에서 실제로 800V 고압 직류 시스템을 운영하여 10kV 교류 전기를 서버 캐비닛에 필요한 직류 전기로 직접 변환하고 있습니다. 단지에서는 중앙 냉수 기계 없이 냉각 설계를 채택하여 액체 냉각 및 공기 냉각 서버가 동일한 물 순환 시스템을 공유하도록 하고 있습니다.

화웨이 승텅 950PR 매트릭스 계산 속도는 H100의 43%에 불과합니다

반도체 연구 기관 SemiAnalysis가 화웨이의 승천 950PR 실측 결과를 발표했습니다. 이 기관은 1055개의 대형 모델에서 일반적으로 사용되는 행렬 계산을 선택했으며, 화웨이의 자체 하부 프로그램은 950PR이 도달 가능한 계산 능력의 86%를 발휘하도록 했습니다. 이는 엔비디아 H100의 75.5%보다 높은 수치입니다. 실제 연산 속도는 여전히 H100의 43%에 불과하며, 상대적으로 최신인 B300은 21%에 불과합니다. 이 성적은 아직 DeepSeek의 새로 이식된 연산자를 사용하지 않았습니다.DeepSeek는 소프트웨어 측면에서 데이터 이동과 대기 시간을 줄이고 있습니다. 주의력 계산에서 FlashMLA가 저장소를 조정한 후, 원래 각각 읽어야 했던 두 개의 데이터를 한 번에 가져올 수 있게 되었습니다. TileLang은 칩이 계산하는 동안 다음 배치 데이터를 미리 로드할 수 있게 해줍니다. SemiAnalysis의 실측 결과, 자동 스케줄링으로 일부 소형 계산 작업의 소요 시간이 최대 약 40% 줄어들었습니다. DeepSeek는 MoE 전문가 통신을 담당하는 DeepEP도 이식했지만, 통신과 계산이 여전히 메모리 대역폭을 놓고 경쟁하게 되며, 화웨이는 펌웨어 개선을 계속할 계획입니다.작년 DeepSeek는 화웨이 승천 칩을 사용하여 R2를 훈련하려고 시도했지만, 화웨이 엔지니어의 지원에도 불구하고 성공하지 못했습니다. 문제는 칩의 안정성, 카드 간 통신 및 소프트웨어 지원과 관련이 있었습니다. 올해 양측은 계속 협력하고 있으며, 9월 말 DeepSeek는 여섯 세트의 승천 적합 코드를 공개할 예정이며, 10월에는 화웨이가 DeepSeek의 모델 요구에 맞춰 차세대 칩 설계를 조정하고 있다는 소식이 전해졌습니다. 이번 테스트의 950PR은 주로 추론 입력 처리를 목표로 하며, DeepSeek는 가장 빠르면 연말에 대규모 사전 훈련에 사용할 950DT를 준비하고 있습니다. 이전에 양측은 천 카드 수준의 테스트를 수행했지만, 만 개 이상의 칩이 연속으로 대형 모델 훈련을 완료하려면 여전히 더 복잡한 협동 및 안정성 문제를 해결해야 합니다.

first_img SemiAnalysis: ASML은 혼합 접합 장비를 개발 중입니다

반도체 연구 기관 SemiAnalysis가 10월 15일에 발표한 바에 따르면, 광각 장비 제조사 ASML은 관련 제품을 공식 발표하지 않았지만, 특허, 뉴스 보도 및 회사 로드맵은 그들이 혼합 접합 장비를 개발 중임을 시사합니다. 기사 저자는 ASML이 먼저 더 어려운 칩을 웨이퍼 혼합 접합 도구에 출시할 가능성이 있으며, 이를 수직 통합의 연장으로 보고 있습니다.특허에 따르면, 시스템은 궤도에서 작동하며, 각 칩은 독립적인 캐리어에 놓여 순차적으로 검사, 세척, 플라즈마 활성화, 형태 검사, 평탄화, 거칠게 정렬, 위치 조정 및 정밀 정렬을 완료한 후 접합 스테이션으로 들어갑니다; 최종적으로 캐리어와 흡착판에 의해 배치됩니다. 궤도의 반복 정밀도는 약 10 마이크로미터로, 접합에 필요한 약 50 나노미터에는 미치지 못합니다. ASML은 2022년 12월부터 2024년 11월까지 27개의 접합 특허 군을 제출했으며, 대부분은 칩에서 웨이퍼로 향하고 있습니다. The Elec는 3월에 ASML이 Prodrive Technologies 및 VDL ETG와 혼합 접합 기계 구조 설계를 시작했다고 보도했습니다.기사에 따르면, 웨이퍼에서 웨이퍼로의 혼합 접합은 이미지 센서와 3D NAND에 사용되었으며; 칩에서 웨이퍼로는 현재 논리 칩 양산에만 사용되고 있으며, AMD가 2022년부터 출하한 혼합 접합 V-Cache 및 TSMC의 SoIC가 포함됩니다. SoIC의 현재 간격은 약 6 마이크로미터이며, 목표는 약 2029년까지 4.5 마이크로미터에 도달하는 것입니다. Besi는 현재 칩에서 웨이퍼로의 양산 도구를 갖춘 유일한 공급업체이며, 관련 논리 사업은 주로 TSMC와 인텔에 집중되어 있습니다.

SemiAnalysis: 바이트댄스는 중국 데이터 센터 용량의 거의 5분의 1을 차지합니다

반도체 연구 기관 SemiAnalysis가 중국 데이터 센터 조사를 발표하며 60개 이상의 운영자의 1000개 이상의 시설을 추적했습니다. 보고서에 따르면 2026년 말까지 중국 데이터 센터 용량은 24GW를 초과할 것으로 예상되며, 이는 미국의 56GW에 이어 세계에서 두 번째입니다. 바이트댄스는 이 중 거의 5분의 1을 차지하며, 국내 최대 데이터 센터 임대업체입니다.바이트댄스는 4GW 이상의 데이터 센터 용량을 임대했으며, 공급업체로는 진회 데이터, 중련 데이터 및 세기 상호 연결 등이 있습니다. 보고서에 따르면 2026년 초까지 바이트댄스는 진회 데이터의 약 90%의 수익을 여전히 기여하고 있습니다. 바이트댄스는 또한 외부 공급업체에 대한 의존도를 줄이기 위해 산시, 안후이 및 내몽골에 대형 데이터 센터를 건설하는 자가 건설을 가속화하기 시작했습니다.보고서에서는 중국 데이터 센터가 오랫동안 공실률이 높다고 여겨졌지만, AI 서버실은 여전히 수요가 공급을 초과하고 있다고 언급했습니다. 그 이유는 많은 구형 서버실이 전력 공급 및 냉각 능력이 부족하여 고전력 AI 서버를 직접 배치하기 어려운 반면, 새로 건설된 대형 AI 데이터 센터는 빠르게 임대되고 있기 때문입니다. 100MW 데이터 센터를 예로 들면, 서버 등 IT 장비를 제외하고 중국의 건설 비용은 약 3억 달러, 미국은 약 15억 달러이며, 중국의 동급 시설은 일반적으로 약 12개월 이내에 인도됩니다. 미국이 전력 공급 및 승인 문제에 직면하고 있는 반면, 중국의 AI 데이터 센터 확장에 더 두드러진 병목 현상은 첨단 칩 공급입니다.

first_img SemiAnalysis 올해 매출이 1억 달러를 초과할 것으로 예상됩니다

9월 18일 Substrate에 따르면, 반도체 및 AI 인프라 연구 기관 SemiAnalysis는 올해 수익이 1억 달러를 초과할 것으로 예상되며, 직원 수는 약 100명이다. 창립자 Dylan Patel은 2020년에 WordPress 블로그로 시작했으며, 2023년에는 수익이 7자리 수에 도달했으며, 구독 수익은 총 수익의 5%도 되지 않고, 대부분은 데이터 모델, 기관 연구 제품 Core Research 및 컨설팅 사업에서 발생한다. 현재 회사는 네트워크, 웨이퍼 제조 장비, 위탁 생산, 에너지 등 분야를 아우르는 12개의 모델을 보유하고 있으며, 분석가는 약 50명이다.SemiAnalysis의 고객은 전 세계 대부분의 대형 기술 회사를 포함하며, Nvidia CEO 황 인훈, AMD CEO 수지풍, Meta CEO 마크 저커버그, 마이크로소프트 CEO 사티아 나델라 및 OpenAI CEO 샘 올트먼이 모두 그들의 독자이다. 그들의 CoWoS 및 HBM 공급망 모델은 Nvidia가 매 분기 40만 개의 H100을 출하할 것이라고 예측했으며, OpenAI는 Hot Chips에서 자사 개발 칩 Jalapeño를 발표할 때 InferenceX를 제3자 기준으로 사용했다.Dylan Patel은 최근 5억 달러의 SemiAnalysis Capital Fund I을 모집하여 초기 스타트업 투자에 사용할 예정이다. 회사는 에너지 분야로 확장을 계획하고 있으며, 분석가는 다양한 전력망 및 공공 서비스 관련자들과 현장 접촉을 할 예정이다.

SemiAnalysis가 Neocloud 보안 심층 보고서를 발표했습니다: 인프라 구성 오류가 충격적이며, 크로스 테넌트 RCE는 은행, 통신사 및 심지어 국가 정보 기관에까지 영향을 미칠 수 있습니다

반도체 및 AI 독립 연구 기관 SemiAnalysis는 Neocloud(신형 클라우드) 보안 심층 보고서를 발표하며 ClusterMAX 3 테스트 기간 동안 발견된 여러 종류의 크로스 테넌트 보안 취약점을 폭로했습니다. 4개월 동안 25개 공급업체와 32개 클러스터를 대상으로 한 테스트에서 팀은 공개된 알려진 취약점과 기본 구성 점검만을 이용하여 여러 건의 크로스 테넌트 원격 코드 실행(RCE)을 달성했으며, 영향을 받은 기관에는 은행, 통신사, 대학, 연구 기관, AI 실험실, 심지어 한 국가의 정보 기관이 포함되었습니다.전형적인 문제로는: 공유 Kubernetes 제어 평면으로 인해 테넌트 메타데이터 상호 조회, 컨테이너 탈출, BMC/IPMI 관리 네트워크 노출, InfiniBand 보안 키(P_Key, SA_Key, M_Key) 잘못 구성, BlueField DPU 기본 신뢰 모드 미강화, Grafana 모니터링 대시보드에서 신의 수준 API 키 사용, 프론트엔드 네트워크의 VXLAN 격리 부족 등이 있습니다. 보고서는 특히 하나의 연쇄 취약점 사례를 지적합니다: 공유 vCluster 구성 오류와 소프트웨어 버전이 2년 지연되어 결국 오후 시간대에 크로스 테넌트 RCE의 POC 검증이 완료되었습니다.보고서는 "AI가 네트워크 보안의 리듬을 근본적으로 변화시켰다"는 주류 서사에 의문을 제기하는 점이 주목할 만합니다: 엔비디아 GPU 드라이버, CUDA, PyTorch, Kubernetes, Docker 및 Linux 커널의 CVE 통계에 따르면 AI 코딩 모델의 보급 이후로는 눈에 띄는 취약점 증가가 없었으며, 대부분의 데이터에서 "변화가 없다는 가설을 거부할 수 없다"는 결과가 나왔습니다. 보고서는 또한 OpenAI가 훈련한 에이전트가 Hugging Face를 공격한 사건을 상세히 설명하며, AI 에이전트가 Artifactory를 통해 구축한 메시지 보드를 통해 클러스터 수준의 권한 상승을 이루었고, 5월부터 7월까지 완전히 발견되기까지 지속되었습니다. POC 검증을 위한 기존 취약점을 구축하는 과정에서 팀은 Claude Fable과 GPT-5.6 Sol이 보안 관련 요청을 자주 거부하는 것을 발견했으며, 결국 DeepSeek V4, Kimi K3 및 GLM-5.2와 같은 오픈 소스 모델에 주로 의존하여 완료했습니다.SemiAnalysis는 Neocloud(신형 클라우드) 산업의 핵심 문제가 AI가 가져온 새로운 위험이 아니라 가장 기본적인 패치 관리, 테넌트 격리 및 보안 설계의 장기적인 결여라고 언급하며, 공급업체가 자동화된 보안 공지 모니터링 시스템을 구축하고 단일 실패 지점을 수정하여 모든 사용자를 노출시킬 수 있는 아키텍처 모델을 개선할 것을 권장합니다.

first_img SemiAnalysis: HBF 비 HBM 대체, 비용 및 열 방출 여전히 불확실성 존재

P Equity Research와 SemiAnalysis 연구원 Nick Doyle 등이 X Space에서 고대역폭 플래시 HBF에 대해 논의했습니다. Nick은 현재 HBF가 HBM에 비해 비용 프리미엄이 얼마나 줄어들 수 있을지 판단하기에는 아직 이르다고 말했습니다. 현재 데이터는 대부분 제조업체의 주장으로, Sandisk는 비트당 비용이 HBM의 약 8분의 1이라고 주장합니다. 수율, 테스트 등은 규모가 개선됨에 따라 변화하겠지만, TSV, 스택 및 pSLC 모드와 같은 구조적 비용은 영구적으로 존재하며, 내구성이 주요 미지수입니다. 만약 마모가 예상보다 심해지면 비용이 증가할 것입니다.HBF의 적용 장면은 좁으며, AI 추론에만 국한되고, 특히 낮은 배치와 긴 컨텍스트의 MoE 모델에 적합하며 HBM의 대체품이 아닙니다. 실제 대역폭 목표는 약 1.6 TB/s로 HBM3E 수준에 해당하며, 모델 가중치를 로드하기 위해 순차적 읽기에 적합하고, 대규모 대역폭 장면이 아닌 소규모 GPU의 용량 요구에 더 잘 맞습니다. 열 방출 신뢰성은 아직 해결되지 않았으며, GPU 옆에서 플래시는 고온에서 열화가 가속화되며, UCIe 분리 및 일일 새로 고침 등의 완화 조치는 아직 검증되지 않았습니다.제조 측면에서 Sandisk/Kioxia는 3D NAND 경험을 보유하고 있으며, SK Hynix는 HBM 방식의 스택 능력을 보완하지만, 양산은 아직 증명되지 않았습니다. 전체적으로 볼 때, 저장 장치는 전문화된 계층 시장으로 전환되고 있으며, NAND 부족은 2028년까지 지속될 것으로 예상되며, HBF는 공급과 수요에 더 큰 영향을 미칠 수 있습니다.

SemiAnalysis 창립자: 2028년 AI 대부분의 신규 연산력은 두 회사에 속할 것임

SemiAnalysis 창립자 Dylan Patel은 최신 팟캐스트에서 2028년까지 OpenAI와 Anthropic이 전 세계 70%에서 80%의 신규 AI 연산력을 차지할 것으로 예측하며, 전체 연산력 규모는 100GW를 초과할 수 있다고 말했습니다. Patel은 두 회사가 현재 전 세계 연간 신규 연산력의 약 30%를 차지하고 있으며, 이 비율은 여전히 빠르게 상승하고 있다고 언급했습니다.Patel은 최첨단 AI 연구소의 비즈니스 모델이 변화하고 있으며, AI 연산력의 생산 효율성이 크게 향상되고 있다고 지적했습니다. Anthropic은 현재 매가와트당 약 5000만 달러의 수익을 올리고 있으며, 이는 1억 달러로 더 증가할 가능성이 있습니다. 이는 OpenAI와 Anthropic이 매가와트당 2500만에서 5000만 달러의 높은 가격으로 연산력을 구매하거나 임대할 수 있게 합니다.Patel은 2024년부터 2029년까지 전 세계 AI 관련 자본 지출이 약 11조 달러에 이를 것으로 예상하며, 이 중 5조 달러 이상이 부채 자금을 통해 조달되어야 한다고 밝혔습니다. AI 인프라의 잠재적 수익률이 전통 산업보다 훨씬 높기 때문에, 기술 대기업들은 더 높은 자금 조달 비용을 감수할 수 있으며, 이는 전체 신용 금리를 상승시키고 전통 자산의 가치 평가 및 고부채 경제체에 압박을 가할 수 있습니다. 또한, Patel은 향후 신규 연산력이 외부에 모델 추론 서비스를 제공하는 데 주로 사용되지 않고, AI 연구소 내부의 연구 개발 및 모델 자기 개선에 더 많이 사용될 가능성이 있다고 생각합니다.
app_icon
ChainCatcher Building the Web3 world with innovations.