Google разбирает списанные серверы для переработки DDR4 в ответ на нехватку памяти

Старший директор по инфраструктуре цепочки поставок Google Нихил Чериан сообщил, что для преодоления узкого места в памяти Google разрабатывает программные и аппаратные решения, а также разбирает списанные серверы для переработки компонентов DDR4 с целью создания внутренней цепочки переработки. Google разработал специальные аппаратные адаптеры, которые позволяют подключать DDR4 предыдущего поколения к новым серверам искусственного интеллекта, одновременно импортируя списанные серверы для демонтажа их модулей DDR4 с целью повторного использования.

Чериан отметил, что индустрия искусственного интеллекта быстро перешла от ограничений вычислений к ограничениям памяти, высокопроизводительная память составляет около 75% от стоимости материалов для данного сервера искусственного интеллекта. В отчете Goldman Sachs указывается, что в третьем квартале цены на память продолжат расти, ожидается, что цены на DRAM для персональных компьютеров вырастут на 18% до 23%, а цены на DRAM для серверов вырастут на 13% до 18%. Данные Trendforce показывают, что в августе цены на DDR4 8GB и DDR5 8GB на спотовом рынке выросли до 142 долларов и 133 долларов соответственно.

Две модели TPU ASIC, выпущенные Google в этом году, были оптимизированы для работы с памятью и, как ожидается, снизят потребность в памяти до одной шестой от первоначальной. Чип TPU8i использует специализированный многослойный дизайн памяти, полагаясь на высокоскоростную архитектуру памяти DDR5 для выполнения задач на уровне хоста, каждый чип оснащен 288 ГБ высокопроизводительной памяти HBM3e.