テンセント混元オープンソース Hy4 flash、3つのバージョンを一度にリリース
腾讯混元は正式にHy4 flashをオープンソース化しました。モデルのリリースからわずか2日後のことです。今回は一度に3つのバージョンのモデルの重みを公開しました:Hy4 flashは指示微調整された正式モデルで、対話、推論、インテリジェントタスクに直接使用できます;Hy4 flash-FP8は8ビット量子化バージョンで、主にデプロイ時のメモリ使用量を削減するために使用されます;Hy4 flash Baseは指示微調整されていない事前訓練された基本モデルで、開発者が引き続き訓練やカスタマイズを行うのに便利です。Hy4 flashの総パラメータは224Bに達し、推論ごとに12Bがアクティブになります。FP8量子化を経ても、デプロイのハードルは依然として高いです。腾讯はすでにGitHub、Hugging Face、ModelScope、GitCodeでダウンロードを開放しており、コミュニティもGGUF量子化バージョンを制作して、異なるハードウェア環境での実行を容易にしています。モデルはTencent Hy Licenseを使用しており、開発者は契約に従って重みを使用および変更することが許可されていますが、ライセンス条件が付随します;大規模モデルAPIサービスプロバイダーは、規定の収益またはユーザー規模のハードルに達した場合、別途許可を取得する必要があります。770BパラメータのフラッグシップHy4については、腾讯はオープンソース化を加速していると述べており、具体的な時期はまだ発表されていません。