BTC $63,636.53 -1.62%
ETH $1,802.52 -0.42%
BNB $588.88 -0.55%
XRP $0.9795 -2.35%
SOL $74.45 -0.37%
TRX $0.3132 +1.50%
DOGE $0.0593 -0.43%
ADA $0.1535 -0.67%
BCH $207.34 -0.67%
LINK $9.15 -0.91%
HYPE $68.09 -0.46%
AAVE $109.80 -1.52%
SUI $0.7267 -0.66%
XLM $0.1373 -3.03%
ZEC $940.53 -0.76%
AAPL $355.36 +1.27%
AMZN $273.62 +5.07%
GOOGL $290.45 +2.90%
MSFT $515.57 +1.17%
META $623.37 +0.27%
NVDA $153.63 -4.00%
TSLA $390.37 +1.49%
SNDK $808.08 -2.27%
INTC $56.99 +1.44%
SPCX $146.74 +2.73%
MU $735.67 -0.12%
AMD $548.24 +6.04%
BTC $63,636.53 -1.62%
ETH $1,802.52 -0.42%
BNB $588.88 -0.55%
XRP $0.9795 -2.35%
SOL $74.45 -0.37%
TRX $0.3132 +1.50%
DOGE $0.0593 -0.43%
ADA $0.1535 -0.67%
BCH $207.34 -0.67%
LINK $9.15 -0.91%
HYPE $68.09 -0.46%
AAVE $109.80 -1.52%
SUI $0.7267 -0.66%
XLM $0.1373 -3.03%
ZEC $940.53 -0.76%
AAPL $355.36 +1.27%
AMZN $273.62 +5.07%
GOOGL $290.45 +2.90%
MSFT $515.57 +1.17%
META $623.37 +0.27%
NVDA $153.63 -4.00%
TSLA $390.37 +1.49%
SNDK $808.08 -2.27%
INTC $56.99 +1.44%
SPCX $146.74 +2.73%
MU $735.67 -0.12%
AMD $548.24 +6.04%

オープンウェイトモデル

すべて
記事
速報

first_img 月の暗面オープンソース Kimi K3.1 Pro、オープンウェイトモデルランキングの頂点に立つ

凤凰網科技の報道によると、人工知能会社月の暗面(Moonshot AI)は、Hugging FaceプラットフォームでKimi K3.1 Proモデルの重みを公開したと発表しました。AIモデル評価プラットフォームArenaは、Kimi K3.1 Pro(Max)がエージェントアリーナのインテリジェントエージェントランキングでオープン重みモデルの1位、世界の評価モデルの13位にランクインし、作業、プログラミング、チャットの3つのカテゴリでオープンモデルの1位に位置していることを明らかにしました。Arenaによれば、このランキングは、世界中のユーザーによる1.75万回以上の実際の長期インテリジェントエージェントタスクセッションに基づいています。Kimi K3.1 Pro(Max)の純改善率は+5.1%で、前世代のKimi K3(Max)の+0.9%から4.2ポイント向上しました。Shellコマンド実行の信頼性指標Bash Reliabilityは+7.9%で、オープンモデルの中で1位、前世代のK3は-4.5%で13位でした。称賛と苦情の指標は+7.7%、前世代は+1.3%でした;制御性指標は+6.5%で、同様にオープンモデルの1位に位置しています。タスク完了確認指標は+3.9%で、オープンモデルの中で4位、前世代の+3.8%をわずかに上回っています。月の暗面の資料によると、このモデルはハイブリッドエキスパートアーキテクチャを採用しており、総パラメータ量は28兆、単回推論で活性化されるパラメータは約1040億、約100万トークンのコンテキストをサポートし、ネイティブなマルチモーダル能力を備え、プログラミング、3D制作、金融研究、事実の正確性、複雑なインテリジェントエージェントタスクの実行能力を重点的に向上させています。

コインベース:AI支出を約50%削減し、オープンウェイトモデルのデフォルト採用を試みている

CoinbaseのCEOブライアン・アームストロングは、AIコスト最適化に関する最新の進展を紹介する投稿を行いました。アームストロングは、AIの使用量とトークン消費が継続的に増加する中で、コストを管理する鍵は従業員の使用を制限したり、頻繁に予算リマインダーを送信することではなく、デフォルトモデルの選択、タスクルーティングメカニズム、キャッシュ戦略を最適化することだと述べました。彼は、Coinbaseが内部LLMゲートウェイを通じてGLM 5.2、Kimi 2.7などのオープンウェイトモデルをデフォルトオプションとして試みていることを明らかにしましたが、エンジニアが具体的なタスクのニーズに応じて他のモデルを選択することも許可しています。データによると、会社の91%の従業員はAI使用の上限に達したことがないため、Coinbaseはクォータを厳しくすることを選択せず、より低コストのモデルソリューションを通じて全体の効率を向上させています。モデルルーティングに関して、Coinbaseはプロンプトを前処理し、キャッシュヒット率や異なるモデルの価格状況を組み合わせて、タスクを最も適切なモデルに自動的に割り当てます。アームストロングは、計画や推論などの複雑なタスクには最先端モデルのサポートが必要かもしれないが、実行系のタスクは必ずしもコストの高いモデルを呼び出す必要はないと考えています。将来的には、モデル選択プロセスはより多くAIによって自動的に行われるべきであり、人工的な意思決定に依存すべきではないと述べました。さらに、彼はキャッシュヒット率がAIコストに影響を与える重要な要素の一つであることを指摘しました。Coinbaseはリクエストプロセスにキャッシュ認識メカニズムを組み込み、歴史的な結果の再利用率を向上させています。LibreChatの例を挙げると、キャッシュソリューションを最適化した後、そのキャッシュヒット率は5%から60%に向上しました。アームストロングはまた、会社がエンジニアに対して文脈をできるだけ簡潔に保つよう求めていることを述べました。これには、タスクを切り替える際に新しいセッションを開始すること、ファイルの文脈範囲を縮小すること、未使用のツールを閉じることなどが含まれ、不要なトークン消費を減らすことを目的としています。彼によれば、これらの措置を通じて、CoinbaseはAI支出を約50%削減することに成功し、同時にトークン使用量は依然として増加を維持しています。
app_icon
ChainCatcher Building the Web3 world with innovations.