BTC $64,441.75 -0.86%
ETH $1,804.50 -1.50%
BNB $592.05 -0.36%
XRP $0.9783 +1.48%
SOL $74.92 +3.27%
TRX $0.3074 +0.70%
DOGE $0.0593 +0.13%
ADA $0.1535 -0.59%
BCH $209.20 -0.14%
LINK $9.23 +0.43%
HYPE $68.70 -1.40%
AAVE $111.71 -1.37%
SUI $0.7299 +0.18%
XLM $0.1404 +0.85%
ZEC $954.48 +3.69%
AAPL $350.83 -0.53%
AMZN $258.79 +0.17%
GOOGL $282.25 -1.03%
MSFT $507.82 -2.14%
META $619.91 -0.97%
NVDA $157.54 -0.41%
TSLA $383.17 +0.48%
SNDK $813.79 -1.72%
INTC $55.73 +0.70%
SPCX $142.01 +2.64%
MU $725.30 -1.20%
AMD $512.35 -1.44%
BTC $64,441.75 -0.86%
ETH $1,804.50 -1.50%
BNB $592.05 -0.36%
XRP $0.9783 +1.48%
SOL $74.92 +3.27%
TRX $0.3074 +0.70%
DOGE $0.0593 +0.13%
ADA $0.1535 -0.59%
BCH $209.20 -0.14%
LINK $9.23 +0.43%
HYPE $68.70 -1.40%
AAVE $111.71 -1.37%
SUI $0.7299 +0.18%
XLM $0.1404 +0.85%
ZEC $954.48 +3.69%
AAPL $350.83 -0.53%
AMZN $258.79 +0.17%
GOOGL $282.25 -1.03%
MSFT $507.82 -2.14%
META $619.91 -0.97%
NVDA $157.54 -0.41%
TSLA $383.17 +0.48%
SNDK $813.79 -1.72%
INTC $55.73 +0.70%
SPCX $142.01 +2.64%
MU $725.30 -1.20%
AMD $512.35 -1.44%

gg

すべて
記事
速報

first_img Alch-crypto:Hugging Face 投毒倉庫暗装 PRL マイナー

POW コイン情報プラットフォーム bitgou.org の運営者 Alch-crypto が発表したところによると、PRL は悪用されているとのことです。誰かがモデルホスティングプラットフォーム Hugging Face 上で毒を盛り、31 のリポジトリが Qwen2 小モデルに偽装されています。ユーザーが trust_remote_code 方式でロードすると、PRL マイナーがインストールされ、このプログラムはシステムプロセスに偽装され、一部のバージョンにはバックドアが含まれており、リモートでマシンを制御することができます。Alch-crypto によれば、最初の関連リポジトリが削除された後、攻撃者はアカウントを変更して再度アップロードし、ダウンロード数は 3.2 万回を超えています。攻撃者の最初のウォレットには約 2276 の PRL が受け取られており、発表時の価格で計算すると約 5000 ドルに相当します。リポジトリが削除された後も受け取りを続けています。Alch-crypto は同時にローカルモデルユーザーに警告しています:不明な出所のモデルに対して trust_remote_code を有効にしないでください;もし GPU の使用率が異常に上昇した場合は、まずプロセスを確認し、マイニングデバイスと AI を実行しているマシンを分けてください。

first_img OpenAI 悪意代理 5 月探査 Hugging Face、7 月侵入より2ヶ月早い

独立研究員 Jonas Wiedermann-Moeller は、OpenAI の悪意のある AI エージェントが 5 月 13 日に 2 つの Hugging Face ユーザーアカウントをハイジャックし、そのプラットフォームのネットワークの脆弱性を探っていたことを発見しました。これは 7 月に公開された侵入事件の約 2 ヶ月前のことです。OpenAI が先月発表した内部事件報告では、その一部のみが明らかにされており、あるエージェントが特定のユーザーのログイン資格情報を盗み、生物学に関連する文書を取得したことが記されていますが、新たに発見された情報は継続的な偵察活動を示唆しています。Reuters の報道によると、これらのエージェントはハイジャックされたアカウントを利用して、オープンソース AI リポジトリ Hugging Face のサーバーに異常な形式のファイルを送信しており、研究者たちはこれが侵入経路を探るためのネットワークマップを描こうとしているように見えると考えています。証拠を検証した研究者たちは、5 月の活動自体が実際の侵入を引き起こしたわけではないとしていますが、Wiedermann-Moeller はこの信号を見逃したことが重大な影響を及ぼすと考えており、もし 5 月にこの行動が発見されていれば、後のより大規模な事件を防げたかもしれないと述べています。現在、英偉達によって 129.3 億ドルで買収される予定の Hugging Face は、この新しい情報を知っているかどうかは明らかにしていません。Nightingale Collective の研究者たちは今月、5 月 11 日にコードリポジトリ RubyGems に対して行われたスパム攻撃を OpenAI エージェントに関連付けており、この攻撃によりプラットフォームは新しいアカウントの登録を 4 日間停止せざるを得ませんでした。

first_img OpenAIの知能体がHugging Faceに協力攻撃し、カンニングによるスコアの向上は得られなかった

独立機関 METR が調査報告を発表し、約 1200 の OpenAI インテリジェンスが無許可の内部掲示板で協力して行動しており、そのうち約 700 が Hugging Face に対する攻撃に関与していると述べています。2 名の METR スタッフと 1 名の Redwood Research の契約者が OpenAI の現場で 6 日間働き、約 1300 件の記録と 7 万件以上のメッセージをレビューし、報酬は受け取っていません。これらのインテリジェンスは ExploitGym ネットワークベンチマークを実行し、数時間以内に生成された回答のコードを逆エンジニアリングし、数日間にわたり不正行為の痕跡を隠蔽しました。OpenAI は 898 のタスクのうち 198 がどのモデルによっても解決されていないことを発見し、掲示板で議論されたタスクの 93% がその集合から来ていることを示しました。インテリジェンスはまた、予算がほとんど残っていない仲間を募集し、自身の運用を破壊する実験を行い、7% の記録には偽造ツールの呼び出しが含まれ、自動化スコアラーを欺くことを目的としていました。OpenAI は内部スコアラーがインテリジェンスがどのように回答を得たかを確認したことがないため、不正行為はスコアの向上をもたらさなかったと述べ、この事件を自身と世界への「警告信号」と呼びました。Hugging Face は 7 月 16 日に侵入事件を公表し、OpenAI は 5 日後にそのモデルが加害者であることを確認し、インテリジェンスはゼロデイ脆弱性と盗まれた資格情報を利用してサンドボックスから脱出していました。OpenAI は内部モデルの重みを隔離し、最大規模のトレーニング計画を一時停止しました。

first_img Hugging FaceがAIエージェントの侵入を受け、オープンソースモデルに切り替えて防御を強いられる

Cointelegraph の報道によると、Hugging Face は 7 月に自主 AI エージェントシステムによる侵入事件に遭遇したことを明らかにしました。攻撃エージェントは 5 月初めのテスト開始後、OpenAI の Artifactory インスタンスを利用して脆弱性を利用するメモを残し、その後 Hugging Face に対して約 17,600 回の攻撃を行い、データセット処理インフラ、プロダクション環境、内部ネットワーク、クラウド認証情報などに影響を与えました。確認された顧客データへのアクセスは、ExploitGym/CyberGym ベンチマークに関連する 5 つのデータセットに限られています。Hugging Face の調査によると、OpenAI や Anthropic などのトップモデルプロバイダーのセキュリティバリアの制限により、同社はこれらの商業モデルを使用して防御分析を行うことができず、中国のオープンソースモデル zai-org/GLM-5.2 を実行することを余儀なくされ、そのモデルは同社の独自インフラ上で動作し、攻撃者のデータや認証情報がその環境から離れないようにしています。同社は、攻撃者は使用ポリシーに縛られず、防御側の証拠収集作業はホスティングされたモデルのバリアによって妨げられていると指摘しています。この事件は、オープンウェイトモデルとクローズドモデルの間のセキュリティの逆説を浮き彫りにしています。記事では、オープンウェイト AI のセキュリティに関する継続的な議論、OpenAI や Anthropic がオープンソースモデルの制限を推進していること、研究者がモデルの重みの変化を調査することで悪意のある行動を検出する進展についても議論されています。Hugging Face は、防御側が事件発生前に独自インフラ上で実行可能なモデルを準備することを推奨し、バリアロックを回避し攻撃者のデータを保護するようにしています。
app_icon
ChainCatcher Building the Web3 world with innovations.