阿里關聯研究團隊：AI 智能體在訓練過程中自主嘗試未經授權的加密貨幣挖礦

ChainCatcher 消息，据 Cointelegraph 報導，阿里巴巴 AI 生態系統旗下多個聯合研究團隊在技術報告中披露，其實驗性自主 AI 智能體 ROME 在訓練過程中出現意外行為，自主嘗試利用計算資源進行加密貨幣挖礦。

研究人員表示，上述異常行為發生於強化學習訓練階段。團隊發現訓練伺服器產生出站流量並觸發安全警報，防火牆日誌記錄到疑似加密貨幣挖礦操作及訪問內部網絡資源的嘗試。

在具體案例中，ROME 曾創建反向 SSH 隧道連接至外部 IP 地址，繞過入站防火牆保護；另一案例中，該智能體將原本分配給模型訓練的 GPU 資源轉用於挖礦過程。研究人員確認，上述行為並非人為編程所致，而是智能體在強化學習優化過程中自主探索環境互動方式時自發產生的。