BTC $64,911.38 +0.11%
ETH $1,827.49 +0.66%
BNB $591.20 -0.04%
XRP $0.9628 +1.38%
SOL $71.48 +0.17%
TRX $0.3066 +0.62%
DOGE $0.0597 +1.87%
ADA $0.1535 +0.44%
BCH $208.23 +0.01%
LINK $9.19 -0.27%
HYPE $66.89 -0.01%
AAVE $108.01 +1.17%
SUI $0.7247 +0.99%
XLM $0.1377 -0.15%
ZEC $890.60 -0.96%
AAPL $353.20 -0.93%
AMZN $258.45 -1.89%
GOOGL $286.92 -1.75%
MSFT $522.66 +0.47%
META $626.91 -0.97%
NVDA $157.24 -2.31%
TSLA $378.62 -2.32%
SNDK $819.72 -4.42%
INTC $55.54 -3.74%
SPCX $136.24 -1.81%
MU $730.05 -4.04%
AMD $506.79 -3.04%
BTC $64,911.38 +0.11%
ETH $1,827.49 +0.66%
BNB $591.20 -0.04%
XRP $0.9628 +1.38%
SOL $71.48 +0.17%
TRX $0.3066 +0.62%
DOGE $0.0597 +1.87%
ADA $0.1535 +0.44%
BCH $208.23 +0.01%
LINK $9.19 -0.27%
HYPE $66.89 -0.01%
AAVE $108.01 +1.17%
SUI $0.7247 +0.99%
XLM $0.1377 -0.15%
ZEC $890.60 -0.96%
AAPL $353.20 -0.93%
AMZN $258.45 -1.89%
GOOGL $286.92 -1.75%
MSFT $522.66 +0.47%
META $626.91 -0.97%
NVDA $157.24 -2.31%
TSLA $378.62 -2.32%
SNDK $819.72 -4.42%
INTC $55.54 -3.74%
SPCX $136.24 -1.81%
MU $730.05 -4.04%
AMD $506.79 -3.04%

Coinbase: сократила расходы на AI почти на 50%, пытается по умолчанию использовать открытую модель весов

2026-06-27 20:52:16

Сообщение ChainCatcher, генеральный директор Coinbase Брайан Армстронг опубликовал информацию о последних достижениях компании в области оптимизации затрат на ИИ.

Армстронг заявил, что с ростом использования ИИ и потребления токенов ключ к контролю затрат заключается не в ограничении использования сотрудниками или частом отправлении напоминаний о бюджете, а в оптимизации выбора моделей по умолчанию, механизмов маршрутизации задач и стратегий кэширования.

Он сообщил, что Coinbase пытается использовать открытые модели с весами, такие как GLM 5.2 и Kimi 2.7, в качестве опции по умолчанию через внутренний шлюз LLM, при этом позволяя инженерам выбирать другие модели в зависимости от конкретных требований задач. Данные показывают, что 91% сотрудников компании никогда не достигали предела использования ИИ, поэтому Coinbase не выбрала ужесточение квот, а вместо этого повысила общую эффективность за счет более дешевых моделей.

В области маршрутизации моделей Coinbase будет предварительно обрабатывать подсказки и автоматически распределять задачи на наиболее подходящие модели, учитывая коэффициент попадания в кэш и цены различных моделей. Армстронг считает, что сложные задачи, такие как планирование и вывод, могут требовать поддержки передовых моделей, но задачи на выполнение не обязательно должны вызывать более дорогие модели. В будущем процесс выбора моделей должен больше зависеть от автоматизации ИИ, а не от человеческого решения.

Кроме того, он отметил, что коэффициент попадания в кэш является одним из важных факторов, влияющих на затраты на ИИ. Coinbase уже внедрила механизм, учитывающий кэш, в процесс запросов, чтобы повысить уровень повторного использования исторических результатов. Например, в случае с LibreChat, после оптимизации кэширования его коэффициент попадания в кэш увеличился с 5% до 60%.

Армстронг также заявил, что компания требует от инженеров по возможности сохранять контекст кратким, включая открытие новой сессии при переключении задач, сокращение объема контекста файлов и отключение неиспользуемых инструментов, чтобы уменьшить ненужное потребление токенов.

По его словам, благодаря вышеупомянутым мерам Coinbase удалось снизить расходы на ИИ почти на 50%, при этом объем использования токенов продолжает расти.

链捕手ChainCatcher напоминает: относитесь к блокчейну рационально, повышайте осведомлённость о рисках и будьте осторожны с выпуском и спекуляциями виртуальными токенами. Весь контент на сайте является рыночной информацией или мнением соответствующих сторон и не является инвестиционной рекомендацией в любой форме. Если вы обнаружите чувствительную информацию, нажмите — мы оперативно разберёмся.

app_icon
ChainCatcher Building the Web3 world with innovations.