분산 AI 실험실 Gradient, Echo-2 분산 강화 학습 프레임워크 발표

분산 AI 실험실 Gradient는 Echo-2 분산 강화 학습 프레임워크를 발표했습니다. 목표는 AI 연구 훈련 효율성 장벽을 허물고, 아키텍처 레이어에서 Learner와 Actor의 분리를 통해 대모델의 후 훈련 비용을 낮추는 것입니다.

공식 데이터에 따르면, 이 프레임워크는 30B 모델의 후 훈련 비용을 4500달러에서 425달러로 낮출 수 있습니다. Echo-2는 저장 및 계산 분리 기술을 활용하여 비동기 훈련(Async RL)을 지원하며, 샘플링 계산 능력을 불안정한 그래픽 카드 인스턴스와 Parallax 기반의 이종 그래픽 카드로 오프로드할 수 있습니다. 또한 Gradient는 RLaaS(강화 학습 서비스) 플랫폼 Logits를 출시할 계획이며, 현재 학생 및 연구자를 대상으로 예약을 받고 있습니다.