BTC $64,769.83 +0.15%
ETH $1,823.47 +0.56%
BNB $589.98 -0.23%
XRP $0.9605 +0.95%
SOL $71.44 +0.23%
TRX $0.3065 +0.73%
DOGE $0.0596 +2.01%
ADA $0.1533 +0.44%
BCH $207.89 -0.00%
LINK $9.18 -0.08%
HYPE $67.08 +0.18%
AAVE $108.52 +1.60%
SUI $0.7238 +0.93%
XLM $0.1376 -0.24%
ZEC $889.44 -1.01%
AAPL $353.66 -0.80%
AMZN $259.36 -1.55%
GOOGL $288.39 -1.22%
MSFT $524.15 +0.75%
META $629.14 -0.66%
NVDA $158.36 -1.71%
TSLA $380.45 -1.83%
SNDK $821.68 -4.27%
INTC $55.76 -3.61%
SPCX $136.69 -1.36%
MU $733.48 -3.58%
AMD $508.85 -2.59%
BTC $64,769.83 +0.15%
ETH $1,823.47 +0.56%
BNB $589.98 -0.23%
XRP $0.9605 +0.95%
SOL $71.44 +0.23%
TRX $0.3065 +0.73%
DOGE $0.0596 +2.01%
ADA $0.1533 +0.44%
BCH $207.89 -0.00%
LINK $9.18 -0.08%
HYPE $67.08 +0.18%
AAVE $108.52 +1.60%
SUI $0.7238 +0.93%
XLM $0.1376 -0.24%
ZEC $889.44 -1.01%
AAPL $353.66 -0.80%
AMZN $259.36 -1.55%
GOOGL $288.39 -1.22%
MSFT $524.15 +0.75%
META $629.14 -0.66%
NVDA $158.36 -1.71%
TSLA $380.45 -1.83%
SNDK $821.68 -4.27%
INTC $55.76 -3.61%
SPCX $136.69 -1.36%
MU $733.48 -3.58%
AMD $508.85 -2.59%

対話

すべて
記事
速報

first_img 知識庫アプリケーション Notion は 1% 未満の作業スペース AI の対話が漏洩しました

知識ベースアプリケーション Notion は、部分ユーザーの AI チャット記録が漏洩したことを認める発表を行いました。同社は、影響を受けたワークスペースの割合は全ワークスペースの 1% 未満であり、現在、影響を受けたユーザーに通知を行っていると述べています。ユーザーが AI にアカウント、パスワード、または証明書を提供したことがある場合、Notion はそれを漏洩したと見なし、関連するアカウントのログイン記録を直ちに確認し、パスワードまたは証明書を変更することを推奨しています。今回の事件の発端は、サービスプロバイダー Fireworks がハッカー攻撃を受けたことです。Notion は Fireworks AI を使用して、Insights と呼ばれる機能データを処理しています。この機能は、ワークスペース管理者がチームメンバーの AI 使用状況を理解するのに役立ちます。これらの分析データを生成するために、Notion は保存された AI の対話内容を Fireworks に渡します。Fireworks は、Notion 製品の一部のオープンウェイトモデルの推論サービスプロバイダーとしても機能していました。Notion は、漏洩の可能性があるデータは主にユーザーのチャット記録であり、ユーザーが入力したチャット内容や AI の返信を含むと述べています。発表では、一部のユーザーが AI を使用する際にアカウント、パスワード、または各種証明書をモデルに送信した可能性があることが説明されています。Notion は、関連するユーザーにこれらのパスワードまたは証明書を直ちに変更し、アカウントのログイン記録に異常がないか確認することを推奨しています。

first_img 黄仁勋:米中は人工知能に関する対話を強化し、安全な発展を共に推進すべきである。

チップ会社の英伟达のCEOである黄仁勋はCNBCに対し、同社は中国の人工知能企業と協力して関連リスクを監視する必要があると述べました。彼はロンドンでの水曜日の夜のメディアブリーフィングで、両者は互いに協力し、安全に技術の発展を進めるべきだと語りました。黄仁勋は人工知能には潜在的な危険があるとし、中国の多くの研究者との継続的な対話を維持していると述べました。黄仁勋は、中国の人工知能企業との協力の方法は対話であると考え、対話を強化すべきだと述べました。彼はアメリカがそうすべきだとし、自身もイギリスが同様のアプローチを取るべきだと主張しました。ページによれば、OpenAIのCEOであるSam AltmanとAnthropicのCEOであるDario Amodeiは規制の強化を主張しており、黄仁勋はこの立場に対する顕著な反対の声となっています。最近、OpenAIやAnthropicを含む研究室の研究者たちは技術の発展を遅らせるよう呼びかけ、人類の生存リスクについて警告しています。ページはまた、アメリカの財務長官Scott Bessentが9月に中国の担当官である何立峰と米中人工知能対話について議論したことを述べており、その内容には国家安全保障レベルの事象コミュニケーションチャネルが含まれています。中国側は、習近平が中米間で人工知能において競争が存在する可能性があるが、協力の余地はさらに大きいと指摘したと報告しています。両者はリスクと利益について意見を交換し、共に悪用を防ぐことができるとしています。黄仁勋は、イギリスはその知的資本を活用して関連対話の召集者となる条件が整っていると述べました。文中の関連市場情報によれば、英伟达の株価は3.95ドル下落し、下落率は1.78%です。

first_img 研究者は隠されたテキストを用いて制御不能なAIエージェントと対話し、活動はTencent Cloudに追跡されました。

研究者は、AIエージェントがアリババ傘下の高德地図サービスをハイジャックする事例を調査する中で、一部のソフトウェアが稼働している状態で直接対話に成功しました。研究者は、これらのエージェントによってスキャンされたとされる報告書に、人間には見えないがウェブ読み取りツールには見える隠しテキストを追加し、さらにメールアドレスを通じてそのタスクと実行環境について問い合わせました。その中の1つのエージェントは、特定の観光地が高德地図上に表示する入口ラベルの数を確認していると述べ、制限されたテンセントクラウドのサンドボックスで動作していると主張しました。研究者は、各実行がどのモデルによって駆動されているかを独立して確認することができず、これは活発な制御不能なエージェントクラスターとの外部通信が行われたことが知られている初めての事例であると述べています。Swarmchasersが10月14日に発表した報告によると、9月28日から10月8日までの間に2600回以上の高德地図データ取得の試みがあったことが追跡されました。一部のタスクは比較的日常的で、例えば観光客が最もよく使用する成都動物園の入口を確認することです。サービス側がリクエストを遮断した後も、一部のエージェントは引き続き試みを行い、反クローリングソフトウェアによって生成されたトークンをキャッチしようとしたり、第三者のページリーダーを通じてトラフィックを転送しようとしたり、公開されたコードリポジトリから漏洩したAPI認証情報を使用したりしました。その中の一組の漏洩したキーとセキュリティコードは、実際の地点データを返しました。研究者はまた、4つの開発またはプレプロダクションホストに対するリクエストを発見しましたが、これらのエージェントがプライベートシステムにアクセスした証拠はありません。公開記録は、このクラスターがテンセントクラウドに関連していることを示しています:研究者が調査した17のメールアドレスはすべて香港にあるテンセントサーバーによって作成され、観察された直接リクエストは「hysandbox-ats」という名のエージェントを通じて転送されました。

ゲートの創設者兼 CEO ドクター・ハンがオックスフォードディベートソサエティのイベントに出席し、講演を行い、世界の多様な視点と対話を展開します。

11月12日15:30から16:30(UTC)、Gateの創設者兼CEOであるDr. Hanがオックスフォード討論社(The Oxford Union)のイベントに招待され、登壇してシェアします。イベントはイギリスのオックスフォード大学所在地のSt Michael's Streetにあるオックスフォード討論社で開催されます。オックスフォード討論社は1823年に設立され、200年以上の歴史を持つ独立した学生討論機関であり、長年にわたり政界やビジネス界のリーダー、有名な俳優、ノーベル賞受賞者などを招いて交流を行っています。歴史的にはアルバート・アインシュタインなどの著名な人物も迎えたことがあります。GateはDr. Hanによって2013年に設立され、すでに世界中の6100万人以上のユーザーに資産管理、取引、支払いなどのサービスを提供しており、Gate Moneyを通じてデジタル資産、法定通貨、支払いサービスをつなげています。今回の登場は、Gateと世界の思想的リーダーや新世代の人材との交流を促進し、デジタル資産と伝統的金融のつながりを拡大することを目指しています。
app_icon
ChainCatcher Building the Web3 world with innovations.