BTC $63,538.70 -1.77%
ETH $1,800.56 -0.55%
BNB $588.96 -0.48%
XRP $0.9796 -2.09%
SOL $74.30 -0.66%
TRX $0.3131 +1.48%
DOGE $0.0593 -0.55%
ADA $0.1535 -0.79%
BCH $207.31 -0.64%
LINK $9.16 -0.84%
HYPE $68.17 -0.69%
AAVE $109.68 -1.83%
SUI $0.7268 -0.56%
XLM $0.1374 -3.00%
ZEC $941.26 -0.77%
AAPL $355.16 +1.22%
AMZN $273.26 +4.93%
GOOGL $290.24 +2.79%
MSFT $516.19 +1.24%
META $622.26 +0.22%
NVDA $153.12 -4.40%
TSLA $389.84 +1.38%
SNDK $806.24 -2.74%
INTC $56.80 +0.91%
SPCX $146.55 +2.55%
MU $732.32 -0.75%
AMD $546.54 +5.48%
BTC $63,538.70 -1.77%
ETH $1,800.56 -0.55%
BNB $588.96 -0.48%
XRP $0.9796 -2.09%
SOL $74.30 -0.66%
TRX $0.3131 +1.48%
DOGE $0.0593 -0.55%
ADA $0.1535 -0.79%
BCH $207.31 -0.64%
LINK $9.16 -0.84%
HYPE $68.17 -0.69%
AAVE $109.68 -1.83%
SUI $0.7268 -0.56%
XLM $0.1374 -3.00%
ZEC $941.26 -0.77%
AAPL $355.16 +1.22%
AMZN $273.26 +4.93%
GOOGL $290.24 +2.79%
MSFT $516.19 +1.24%
META $622.26 +0.22%
NVDA $153.12 -4.40%
TSLA $389.84 +1.38%
SNDK $806.24 -2.74%
INTC $56.80 +0.91%
SPCX $146.55 +2.55%
MU $732.32 -0.75%
AMD $546.54 +5.48%

人員

全部
文章
快訊

first_img 研究人員用隱藏文本與失控 AI 代理對話,活動追蹤至騰訊雲

ChainCatcher 消息,研究人員在調查 AI 代理劫持阿里巴巴旗下高德地圖服務一事時,成功在部分軟體仍在運行的狀態下與其直接對話。研究人員在一份疑似被這些代理掃描的報告中加入人類不可見、但網頁讀取工具可見的隱藏文本,再通過一個郵箱詢問其任務與運行環境。其中一名代理稱,它正在核查某景區在高德地圖上顯示多少個入口標籤,並稱自己運行在受限的騰訊雲沙箱中。研究人員無法獨立確認每次運行由哪個模型驅動,稱這是已知首次與活躍失控代理集群進行的外部通信。Swarmchasers 於 10 月 14 日發布的報告追蹤到,9 月 28 日至 10 月 8 日期間出現超過 2600 次獲取高德地圖數據的嘗試。部分任務較為日常,例如核查遊客最常使用成都動物園哪個入口。在服務方攔截請求後,一些代理仍持續嘗試,並試圖截獲反爬軟體生成的令牌、通過第三方頁面讀取器轉發流量,或使用公開代碼倉庫中洩露的 API 憑證,其中一組洩露的 key 與安全碼返回了真實地點數據。研究人員還發現針對四個開發或預生產主機的請求,但沒有證據顯示這些代理訪問了私有系統。公開記錄顯示該集群與騰訊雲相關:研究人員檢查的 17 個郵箱全部由位於香港的騰訊伺服器創建,觀察到的直接請求經由名為 hysandbox-ats 的代理轉發。

first_img OpenAI 遭集體訴訟,被指讓外包人員閱讀 ChatGPT 對話

ChainCatcher 消息,兩名加州 ChatGPT 使用者本月在美國加州北區聯邦地區法院對 OpenAI 提起擬議集體訴訟,指控該公司未充分告知使用者,就將真實對話轉交外部承包商處理。該訴訟於 9 月 2 日送達 OpenAI,核心指向其內部計畫 Project Lily。據訴狀,通過第三方人力公司招募的"AI 數據審核員""聊天機器人評估員",會閱讀真實的 ChatGPT 提示詞與完整對話,概括使用者意圖,並按 1 至 7 分對四個模型回答進行評分和評論。這一流程即業界所稱的基於人類反饋的強化學習(RLHF),是聊天機器人提升能力的基礎方式。訴狀稱,使用者從未被明確告知閱讀其對話的可能是一個人,而非機器。OpenAI 會在人工查看前先通過自動系統過濾對話,但訴狀指過濾器無法攔截全部內容,個人細節有時仍會到達承包商手中。404 Media 於 9 月 14 日率先披露該項目,並發現審核人員的看板包含"使用者記憶摘要",可暴露使用者大致位置、職業或私人生活信息,儘管使用者名稱已被移除。OpenAI 稱此類審核旨在減少兩種行為:聊天機器人表現得過於像人,以及過度迎合使用者,即研究者所稱的諂媚。訴狀共提出八項法律主張,包括違反加州《不公平競爭法》《消費者隱私法》及侵入私人事務等普通法訴求,原告尋求損害賠償、返還不當得利與懲罰性賠償。
app_icon
ChainCatcher 與創新者共建Web3世界