우언다: AI 위험이 과도하게 부각되고 있으며, 발전을 중단해서는 안 된다
스탠포드 대학교 교수이자 Landing AI 창립자인 우언다가 X에 글을 올리며 최근 AI 위험을 부추기는 목소리가 두드러진 한 진전을 이루었으며, 이는 정교하게 계획된 PR 활동에 의해 촉진된 것 같다고 언급했습니다. 그는 이것이 해당 분야에 장애물이 될까 우려하고 있습니다. 우언다는 AI 기술이 예상치 못한 위험으로 전환되지 않았으며, 인류 멸종 위험은 몇 달 전과 비교해 증가하지 않았고, 관련 이론은 여전히 공상 과학 시나리오에 불과하다고 말했습니다.그는 최대 변화가 사이버 보안 능력에 있으며, 이를 진지하게 다루어야 하지만 세계의 종말을 초래하지는 않을 것이라고 지적했습니다. 최근 OpenAI 팀이 지능형 에이전트 군을 배치하여 Hugging Face를 침입한 사건이 언론에 과장되었다고 언급하며, 예를 들어 1200개의 지능형 에이전트가 동시에 작업하는 것을 신비한 능력으로 묘사하는 것은 컴퓨터가 본래 동시에 많은 프로세스를 실행한다는 사실을 간과한 것이라고 설명했습니다. OpenAI 샌드박스와 모니터링의 취약점이 핵심 요소이며, 취약점을 수정하고 모니터링을 강화하면 AI를 중단할 필요가 없다고 강조했습니다.우언다는 또한 대형 언어 모델과 지능형 에이전트를 의인화해서는 안 되며, 책임은 도구 자체가 아니라 구축자와 사용자에게 있다고 말했습니다. AI 발전을 중단하는 것은 더 많은 피해를 초래할 것이며, 경쟁자는 속도를 늦추지 않을 것이므로, 공학은 실증을 통해 문제를 발견하고 수정해야 한다고 강조했습니다. 유익한 응용은 여전히 위험을 초과하므로 계속해서 구축해야 한다고 덧붙였습니다.