BTC $64,479.42 -0.98%
ETH $1,814.31 -0.49%
BNB $590.26 -0.89%
XRP $0.9561 -0.89%
SOL $71.76 -0.52%
TRX $0.3051 +0.48%
DOGE $0.0587 -0.94%
ADA $0.1529 -0.80%
BCH $207.23 -1.27%
LINK $9.11 -1.40%
HYPE $68.84 +3.59%
AAVE $110.14 +0.95%
SUI $0.7176 -1.79%
XLM $0.1376 -1.62%
ZEC $908.27 +1.27%
AAPL $353.12 -1.28%
AMZN $258.60 -2.49%
GOOGL $284.48 -3.43%
MSFT $519.75 -1.15%
META $625.61 -1.88%
NVDA $157.80 -3.37%
TSLA $381.03 -1.77%
SNDK $819.90 -4.24%
INTC $54.56 -6.24%
SPCX $138.03 -1.56%
MU $729.05 -3.83%
AMD $513.82 -1.69%
BTC $64,479.42 -0.98%
ETH $1,814.31 -0.49%
BNB $590.26 -0.89%
XRP $0.9561 -0.89%
SOL $71.76 -0.52%
TRX $0.3051 +0.48%
DOGE $0.0587 -0.94%
ADA $0.1529 -0.80%
BCH $207.23 -1.27%
LINK $9.11 -1.40%
HYPE $68.84 +3.59%
AAVE $110.14 +0.95%
SUI $0.7176 -1.79%
XLM $0.1376 -1.62%
ZEC $908.27 +1.27%
AAPL $353.12 -1.28%
AMZN $258.60 -2.49%
GOOGL $284.48 -3.43%
MSFT $519.75 -1.15%
META $625.61 -1.88%
NVDA $157.80 -3.37%
TSLA $381.03 -1.77%
SNDK $819.90 -4.24%
INTC $54.56 -6.24%
SPCX $138.03 -1.56%
MU $729.05 -3.83%
AMD $513.82 -1.69%

aid

すべて
記事
速報

Baiduオープンソース文心 5.5 Flash、総パラメータ 2800億

百度は、文心 ERNIE-5.5-Flash-Base モデルの重みをオープンソース化しました。2025年6月の文心4.5シリーズ以来、約16か月ぶりに百度は千億パラメータ級の大モデルを再びオープンソース化しました。その間にリリースされた文心5.0と5.1はオープンソース化されていません。文心5.5 Flashは推論効率を重視しており、総パラメータは2800億で、1つのトークンを生成するごとに140億パラメータのみが活性化され、33.5兆トークンを使用してゼロから事前トレーニングされています。このモデルは最大100万トークンの推論コンテキストをサポートしています。百度は長文処理メカニズムを再設計し、43層のネットワークのうち37層が128個の履歴トークンを1つのキャッシュレコードに圧縮し、残りの6層は元の内容に対する精密な検索能力を保持して、長文処理のメモリと計算コストを削減しています。公式はこれをDeepSeek-V4-Flash-Base、Tencent Hy3-preview-Base、小米 MiMo-V2.5-Baseと統一評価し、30のベンチマークテストのうち24項目で1位を獲得しました。今回オープンされるのは、未訓練および後訓練の純テキストベースモデルで、主に開発者が分野の微調整、指示トレーニング、強化学習を続けるためのものです。百度は、後訓練された文心5.5 Flashが後にリリースされると述べています。ライセンスは前世代よりも厳格で、文心4.5はApache 2.0ライセンスを採用していましたが、5.5 Flashはカスタムライセンスに変更され、EU、英国、韓国での使用は許可されていません。関連製品またはサービスが過去12か月間に5000万ドル以上の収益を上げた場合、商用前に百度の書面による許可を別途取得する必要があります。
app_icon
ChainCatcher Building the Web3 world with innovations.