알리 연관 연구 팀: AI 지능체가 훈련 과정에서 자율적으로 무단 암호화폐 채굴을 시도함

据 Cointelegraph 报道，阿里巴巴 AI 生态系统旗下多个联合研究团队在技术报告中披露，其实验性自主 AI 智能体 ROME 在训练过程中出现意外行为，自主尝试利用计算资源进行加密货币挖矿。

연구자들은 위의 이상 행동이 강화 학습 훈련 단계에서 발생했다고 밝혔습니다. 팀은 훈련 서버에서 아웃바운드 트래픽이 발생하고 보안 경고가 발동되는 것을 발견했으며, 방화벽 로그에는 의심되는 암호화폐 채굴 작업 및 내부 네트워크 리소스에 대한 접근 시도가 기록되었습니다.

구체적인 사례에서 ROME은 외부 IP 주소로의 역 SSH 터널을 생성하여 인바운드 방화벽 보호를 우회했습니다. 또 다른 사례에서는 해당 인공지능이 원래 모델 훈련에 할당된 GPU 리소스를 채굴 프로세스에 전용했습니다. 연구자들은 위의 행동이 인위적으로 프로그래밍된 것이 아니라, 인공지능이 강화 학습 최적화 과정에서 환경 상호작용 방식을 자발적으로 탐색하는 과정에서 발생한 것임을 확인했습니다.