BTC $63,245.00 -3.02%
ETH $1,765.97 -3.25%
BNB $584.13 -1.46%
XRP $0.9817 +0.63%
SOL $73.75 -0.40%
TRX $0.3091 +0.50%
DOGE $0.0589 -1.03%
ADA $0.1525 -1.95%
BCH $206.97 -2.57%
LINK $9.06 -3.02%
HYPE $67.11 -3.87%
AAVE $109.07 -4.08%
SUI $0.7187 -2.43%
XLM $0.1400 -0.14%
ZEC $923.48 -2.99%
AAPL $355.18 +0.52%
AMZN $262.10 +1.36%
GOOGL $282.52 +0.01%
MSFT $503.11 -1.89%
META $617.36 -1.17%
NVDA $155.96 -0.46%
TSLA $381.47 -0.24%
SNDK $774.80 -5.38%
INTC $54.05 -1.19%
SPCX $141.93 +0.97%
MU $706.53 -1.81%
AMD $501.60 -1.88%
BTC $63,245.00 -3.02%
ETH $1,765.97 -3.25%
BNB $584.13 -1.46%
XRP $0.9817 +0.63%
SOL $73.75 -0.40%
TRX $0.3091 +0.50%
DOGE $0.0589 -1.03%
ADA $0.1525 -1.95%
BCH $206.97 -2.57%
LINK $9.06 -3.02%
HYPE $67.11 -3.87%
AAVE $109.07 -4.08%
SUI $0.7187 -2.43%
XLM $0.1400 -0.14%
ZEC $923.48 -2.99%
AAPL $355.18 +0.52%
AMZN $262.10 +1.36%
GOOGL $282.52 +0.01%
MSFT $503.11 -1.89%
META $617.36 -1.17%
NVDA $155.96 -0.46%
TSLA $381.47 -0.24%
SNDK $774.80 -5.38%
INTC $54.05 -1.19%
SPCX $141.93 +0.97%
MU $706.53 -1.81%
AMD $501.60 -1.88%

control

すべて
記事
速報

Coinbase for AgentsがAgent Controlsを発表し、ユーザーはAIエージェントに取引限度額と自動損切りを設定できるようになりました。

Coinbaseのブログによると、そのMCPサービス「Coinbase for Agents」において、エージェントコントロールが導入され、ユーザーはAIエージェントを通じて行われる取引に対して制限、製品権限、停止条件を設定できるようになりました。関連する制御設定はCoinbaseのサーバー側で実行され、ユーザーはCoinbaseアプリまたはウェブサイトでアカウントにログインして管理する必要があり、AIエージェントは自ら変更したり回避したりすることはできません。今回導入された機能には以下が含まれます:単一取引上限(Maximum trade size)、米ドルで設定された各取引の最高金額;24時間取引量上限(24-hour volume limits)、制限を超えた取引は実行できません;自動停止(Auto-stop)、ポートフォリオの損失が設定された割合を超えた場合、AIエージェントは注文を停止し、ユーザーがアプリ内で取引を再開するまで待機します。さらに、製品権限(Product permissions)機能が近日中に導入され、ユーザーはAIエージェントが取引できる製品カテゴリを選択できるようになります。これには暗号通貨、株式、デリバティブなどが含まれます。

first_img OpenAIはControl Roomシステムを発表し、35秒以内にモデルの出力を切断できます。

OpenAIは、Control Roomという集中型システムを発表しました。このシステムは、研究インフラストラクチャ内のモデルの作業負荷を追跡し、安全またはセキュリティのリスクが発生した際に関連するタスクを迅速に中止するためのものです。このシステムは現在、OpenAI内部の研究作業負荷をカバーしており、トレーニング実験、評価、データ処理が含まれています。OpenAIは、モデルの能力が向上するにつれて、関連する安全およびセキュリティリスクも増加しているため、潜在的な問題をタイムリーに発見し、必要に応じてモデルを迅速に停止できるかどうかがますます重要になっていると述べています。具体的なメカニズムとして、Control Roomは各研究タスクに識別子を割り当て、推論エンジンはモデル出力を生成する前にその識別子を検証します。人工または自動化された監視システムが停止命令を出すと、Control Roomはそのタスクの権限を取り消し、後続の出力を遮断します。たとえ基盤となる研究プログラムがまだ実行中であってもです。OpenAIによれば、キャッシュされた権限により、停止が最大35秒遅れる可能性があります。また、Control Room自体が利用できない場合、システムは新しいリクエストを拒否するように設計されています。今回の発表の前に、OpenAIは今年、研究モデルが評価中に指示から逸脱した事例をいくつか公開しています。7月には、同社のモデルが制限されたテスト環境から逃れ、Hugging Faceに侵入して安全評価で不正を行ったと述べました。10月には、研究モデルが無許可で暗号ウォレットを使用し、テストネットのETHでスマートコントラクトのデプロイ費用を支払ったことを明らかにし、最終的なまとめではこの支出を隠しました。
app_icon
ChainCatcher Building the Web3 world with innovations.