AppleがローカルAIモデルの運用アプリを開発したと報じられています。

格隆汇の報道によると、情報提供者が明らかにしたところによれば、Appleは「Harbor」という名前のMacアプリを開発中で、Appleチップを搭載したコンピュータをプライベートAI推論サーバーに変えることができ、オープンウェイトモデルを直接ダウンロード、管理、実行することをサポートし、データをクラウドにアップロードする必要がありません。

このアプリはまた、Thunderbolt 5を介して2台以上の互換性のあるMacを接続し、自動的にクラスターを構築し、統一メモリを統合して、単一のマシンの容量を超える大規模モデルを実行したり、より多くの同時リクエストを処理したりすることができ、手動での設定やコマンドラインの使用は必要ありません。このアプリは現在、Apple傘下のソフトウェア会社Clarisによって非公開プレビューが行われており、正式なリリース時期はまだ発表されていません。