BTC $84,781.76 +0.69%
ETH $2,682.89 +0.66%
BNB $788.56 +2.97%
XRP $1.49 +1.22%
SOL $119.75 +1.57%
TRX $0.3357 +0.23%
DOGE $0.0930 +1.79%
ADA $0.2453 +2.49%
BCH $315.20 +3.73%
LINK $13.96 +2.59%
HYPE $89.01 +2.85%
AAVE $179.91 -0.15%
SUI $1.17 +4.33%
XLM $0.2153 +1.46%
ZEC $1,314.90 +2.64%
AAPL $333.47 -0.01%
AMZN $252.00 +0.31%
GOOGL $343.20 -0.08%
MSFT $517.91 +0.03%
META $729.56 +0.20%
NVDA $234.52 +0.28%
TSLA $370.93 +0.05%
SNDK $1,716.73 -0.19%
INTC $118.01 -1.24%
SPCX $159.08 -0.07%
MU $1,070.64 -0.43%
AMD $633.28 -0.11%
BTC $84,781.76 +0.69%
ETH $2,682.89 +0.66%
BNB $788.56 +2.97%
XRP $1.49 +1.22%
SOL $119.75 +1.57%
TRX $0.3357 +0.23%
DOGE $0.0930 +1.79%
ADA $0.2453 +2.49%
BCH $315.20 +3.73%
LINK $13.96 +2.59%
HYPE $89.01 +2.85%
AAVE $179.91 -0.15%
SUI $1.17 +4.33%
XLM $0.2153 +1.46%
ZEC $1,314.90 +2.64%
AAPL $333.47 -0.01%
AMZN $252.00 +0.31%
GOOGL $343.20 -0.08%
MSFT $517.91 +0.03%
META $729.56 +0.20%
NVDA $234.52 +0.28%
TSLA $370.93 +0.05%
SNDK $1,716.73 -0.19%
INTC $118.01 -1.24%
SPCX $159.08 -0.07%
MU $1,070.64 -0.43%
AMD $633.28 -0.11%

서버

전체
글
뉴스 플래시

first_img 애플은 기업용 AI 서버를 개발하고 있으며, 2-4개의 M8 Ultra를 탑재할 수 있습니다

최근 시장에서는 애플이 기업용 AI 서버를 개발 중이며, 2개에서 4개의 아직 출시되지 않은 M8 Ultra 프로세서를 장착할 가능성이 있다고 전해졌습니다. 목표 고객층은 AI 개발자, 대기업 및 정부 기관으로, 주로 AI 추론에 사용될 예정이며, 이 엣지 데이터 센터는 NVLink를 사용할 수 있습니다. 애플과 NVIDIA는 모두 이에 대한 응답을 하지 않았습니다.공급망에서는 애플이 Mac 시리즈가 개인 AI 워크스테이션으로 많이 사용되면서 관련 사업에 진입했다고 보고하고 있으며, 최근 분기 Mac 매출이 거의 30% 증가했습니다. 애플은 자사의 AI 데이터 센터를 위해 NVIDIA 칩과 Google TPU를 대량으로 구매하고 있으며, Broadcom과 협력하여 자체 AI 칩을 개발할 것이라는 소식도 전해졌습니다. 퀄컴의 Dragonfly 제품군은 엣지 AI 추론을 위한 전체 캐비닛 솔루션을 포함하고 있습니다.시장에서는 샤오미가 엣지 AI 캐비닛 경로를 계획하고 있으며, 이전 발표회에서 개인화된 AI 워크스테이션 개념 제품인 AI Cube를 출시했습니다. 내부에는 동시에 자사 개발한 세 개의 칩인 현계 O3, O100, D100이 탑재되어 있습니다. 공급망에서도 첨단 공정이나 첨단 패키징 측면에서 TSMC가 중요한 역할을 하고 있다는 소식이 전해졌습니다.

연구원은 6TB 중계 서버 데이터를 구매하면 화웨이, 샤오미 등 19개 기업에 침투할 수 있다고 주장했다

안전 연구원 수 초판은 그가 중국의 주요 대형 모델 중계소에서 약 6TB의 Fable 모델 호출 데이터를 구매했으며, 이 데이터에는 SSH 키, VPN 구성, 알리바바 클라우드 키, GitLab 토큰 등 민감한 자격 증명이 포함되어 있다고 밝혔습니다. 그는 이 데이터의 키가 그가 19개의 중국 주요 기업과 7개의 중국 및 독립 국가 공동체 정부 관련 기관의 서버 또는 내부 시스템에 접근할 수 있게 해준다고 말했습니다. 여기에는 화웨이, 샤오미, 위라이와 미니맥스가 포함됩니다.대형 모델 중계소는 사용자와 Claude와 같은 모델 사이에 위치해 있으며, 요청과 응답은 먼저 중계소를 통과하므로 전체 명문을 볼 수 있습니다. 개발자가 SSH 키, API 키, VPN 구성 등을 에이전트 컨텍스트에 삽입하면, 중계소가 이러한 기록을 저장하거나 심지어 판매할 경우 회사의 시스템 키도 함께 유출될 수 있습니다. 이는 수 초판이 중계소의 위험을 경고하는 것이 처음이 아닙니다. 그가 참여한 4월 논문은 428개의 LLM 중계소를 테스트했으며, 9개가 악성 코드를 적극적으로 주입하고, 17개는 연구원이 의도적으로 넣은 AWS 테스트 키를 보고 실제로 이 키로 AWS를 호출했으며, 1개는 테스트 지갑의 ETH를 직접 전송했습니다.수 초판은 블록체인 보안 회사 Fuzzland의 공동 창립자로, 오랜 기간 동안 취약점 및 공급망 보안 연구를 해왔습니다. 3월 말, 그는 Claude Code 2.1.88 배포 패키지의 소스 맵에서 약 50만 줄의 TypeScript 소스 코드가 우연히 노출된 것을 처음으로 발견했습니다.

first_img 구글, 퇴역 서버 분해하여 DDR4로 메모리 부족 대응

구글 공급망 인프라 고위 이사 Nikhil Cherian은 메모리 병목 현상을 극복하기 위해 구글이 소프트웨어 및 하드웨어 솔루션을 개발하고, 퇴역 서버를 분해하여 DDR4 구성 요소를 회수하여 내부 회수 공급망을 구축하고 있다고 밝혔습니다. 구글은 이전 세대 DDR4를 새로운 세대 인공지능 서버에 연결할 수 있는 특별한 하드웨어 어댑터를 설계했으며, 퇴역 서버를 수입하여 그 DDR4 모듈을 회수하여 재활용하고 있습니다.Cherian은 인공지능 산업이 계산 제한에서 메모리 제한으로 빠르게 전환하고 있으며, 고성능 메모리가 주어진 인공지능 서버 자재 목록 비용의 약 75%를 차지한다고 말했습니다. 골드만삭스 보고서에 따르면, 3분기 메모리 가격은 계속 상승할 것이며, 개인용 컴퓨터 DRAM 가격은 18%에서 23% 상승할 것으로 예상되고, 서버 DRAM 가격은 13%에서 18% 상승할 것으로 보입니다. Trendforce 데이터에 따르면, 8월 현물 시장에서 DDR4 8GB와 DDR5 8GB 가격은 각각 142달러와 133달러로 상승했습니다.구글이 올해 출시한 두 가지 TPU ASIC는 메모리를 최적화 설계하였으며, 메모리 수요를 원래의 6분의 1로 줄일 것으로 기대하고 있습니다. TPU8i 칩은 전용 계층 메모리 설계를 채택하여 고속 DDR5 메모리 아키텍처를 통해 호스트 수준의 작업을 수행하며, 각 칩은 288GB의 HBM3e 고대역폭 메모리를 탑재하고 있습니다.

first_img 구글은 AI 서버 메모리 비용이 75%를 초과했다고 발표하며 소프트웨어와 하드웨어의 이중 전략을 추진하고 있다

SEMICON Taiwan 2026 메모리 고峰 포럼이 1일 개최되었으며, Alphabet 산하 Google Cloud 공급망 인프라 수석 이사 Nikhil Cherian은 다중 모드 및 혼합 전문가 아키텍처의 보급에 따라 AI 연산이 계산 능력 제한에서 메모리 제한으로 전환되었으며, 고성능 메모리가 AI 서버 하드웨어 자재 목록 비용의 75% 이상을 차지한다고 지적했습니다. 용량, 대역폭 및 전력 소비 병목 현상에 직면하여 Google은 추론 및 훈련 하드웨어 분산, 무손실 양자화 소프트웨어 알고리즘 등의 소프트웨어 및 하드웨어 이중 경로 전략을 통해 AI 메모리 병목 현상을 극복하고 있습니다.Google은 하드웨어 아키텍처에서 분산 전략을 채택하여 저지연 추론을 위한 TPU 8i와 초대규모 훈련을 전문으로 하는 TPU 8t를 출시했습니다. TPU 8i는 288 GB 고주파 대역폭 메모리를 장착하고 있으며, 칩의 SRAM 용량을 3배 확대하여 384 MiB로 증가시켰고, 동적 대화 상태 및 키 값 캐시를 칩 내부에 배치하여 제로 칩 외 지연을 실현했습니다. TPU 8t는 9600개의 칩으로 구성된 초대형 연산 클러스터를 통해 HBM 공유 풀링이 2 PB 규모에 도달하여 칩 외 데이터 전송 병목 현상을 제거하고 TPU Direct Storage 기술과 결합했습니다.Google은 훈련이 필요 없는 TurboQuant 무손실 양자화 알고리즘을 개발하여 대모델의 키 값 캐시를 32비트에서 3비트로 압축하고, 정확도 손실 없이 6배 메모리 사용량을 줄이며, 8배 주의 연산 가속을 가져오고, 구세대 DRAM 통합 기술을 도입하여 부품 수명을 연장했습니다.
app_icon
ChainCatcher Building the Web3 world with innovations.