Anthropic 공동 창립자: 오픈 소스 AI는 되돌릴 수 없는 남용 위험이 존재하며, 위험한 경로로 나아갈 수 있다
비트코인 뉴스에 따르면, 앤트로픽 공동 창립자이자 CEO인 다리오 아모데이는 미국 의회에서 입법자들에게 오픈 소스 AI 개발이 "매우 위험한 경로"에 접어들고 있다고 밝혔습니다. 강력한 능력을 가진 AI 모델이 오픈 소스 형태로 출시되면 개발자는 모델 사용에 대한 효과적인 감독 능력을 잃게 되며, 남용 행위를 모니터링하거나 접근 권한을 철회하거나 동적으로 보안 방어 메커니즘을 업데이트하는 것이 불가능해져 잠재적인 위험이 증가한다고 경고했습니다.
다리오 아모데이는 폐쇄형 모델 시스템에 비해 완전히 개방된 모델이 안전 거버넌스에서 지속적인 통제를 시행하기가 더 어렵고, 이는 되돌릴 수 없는 남용 위험을 초래할 수 있다고 언급했습니다.
체인캐처(ChainCatcher)는 독자들에게 블록체인을 이성적으로 바라보고, 리스크 인식을 실제로 향상시키며, 다양한 가상 토큰 발행 및 조작에 경계해야 함을 상기시킵니다. 사이트 내 모든 콘텐츠는 시장 정보나 관련 당사자의 의견일 뿐이며 어떠한 형태의 투자 조언도 제공하지 않습니다. 만약 사이트 내에서 민감한 정보를 발견하면 를 클릭하여 신속하게 처리할 것입니다.






