Grayscale Директор по исследованиям: более дешевые агенты AI повысят спрос на вычислительные мощности

Исследовательский директор Grayscale Зак Пандл 8 октября в колонке The Stack заявил, что спрос на ИИ растет из-за снижения затрат на использование и более автономного выполнения задач технологиями, что увеличивает потребность в вычислительной мощности и физической инфраструктуре, поддерживающей ИИ. Более низкие затраты могут освободить больше ИИ-активностей, а низкая цена на открытые весовые модели снижает цены на токены, что делает более дешевый ИИ экономически целесообразным для большего числа приложений и автоматизированных рабочих процессов.

В статье приводится пример, что последняя модель Sonnet от Anthropic, по словам компании, снижает стоимость каждой задачи на 30%; постоянно работающий агент dots, запущенный OpenAI 29 сентября, может работать на цели пользователя круглосуточно, что может значительно увеличить потребность в вычислительной мощности. Пандл сравнивает, что чат-боты в основном отвечают на вопросы, тогда как агенты выполняют многоступенчатые процессы для достижения целей, такие как подготовка к встречам с клиентами, что может потреблять токены в 5-50 раз больше, чем одно взаимодействие в чате, а постоянно работающие агенты могут расширять обработку за пределы одного разговора.

Пандл ссылается на прогноз Goldman Sachs, что к 2030 году потребление токенов может увеличиться в 24 раза, в основном за счет агентов; даже если эффективность повысится, если объем использования вырастет быстрее, общая потребность в вычислительной мощности все равно может возрасти. Он отмечает, что цифровая активность по-прежнему зависит от электроэнергии, дата-центров и GPU, которые требуют времени для поставки физической инфраструктуры, более дешевый ИИ может сосуществовать с напряженной поставкой вычислительной мощности, и упоминает, что CoreWeave недавно подписала новые контракты по более высоким ценам на вычислительную мощность. Его вывод заключается в том, что более дешевый ИИ и более мощные агенты могут расширить случаи использования и объемы до уровня, достаточного для компенсации повышения эффективности, тем самым поддерживая дефицитную потребность в вычислительной мощности и принося пользу ее владельцам.