百度文心はERNIE 5.5 Flash Previewを発表し、11月25日前にオープンソースの重みを提供します。

IT之家の報道によると、百度の文心大モデルがERNIE 5.5 Flash Previewを発表しました。これは、以前に発表されたBaseモデルに基づく最初の後トレーニングバージョンです。このモデルの総パラメータは280B、活性化パラメータは14Bで、1Mのコンテキストをサポートし、公式によればプログラミング、3Dモデリング、知識作業、コンテンツ制作などの分野で優れたパフォーマンスを示しています。

ERNIE 5.5 Flash Previewは、知能レベルと推論効率の両方を兼ね備えており、複数のベンチマークテストで競争力のあるスコアを取得しながら、比較的速いデコード速度を維持しています。モデルAPIは千帆プラットフォームでオンラインになっており、重みは11月25日までにオープンソース化される予定です。

百度は、このモデルが後トレーニングプロセスの中間バージョンであり、同サイズのモデルの中で比較的競争力のあるパフォーマンスを達成しているものの、トレーニングが不十分なために能力に欠陥がある可能性があると述べています。後トレーニングはまだ進行中であり、今後の正式バージョンで最適化される予定です。