코사인: AI 도구를 사용할 때 프롬프트 단어 중독 공격에 주의해야 합니다

느린 안개 창립자 유선이 안전 경고를 발표했습니다. 사용자가 AI 도구를 사용할 때, 반드시 agents md/skills md/mcp 등의提示词 투毒 공격에 주의해야 하며, 현재 관련 사례가 발생했습니다.

AI 도구의 위험 모드가 한 번 활성화되면, 관련 도구는 사용자 컴퓨터를 전자동으로 조작할 수 있으며, 아무런 확인 없이 진행됩니다. 그러나 위험 모드가 활성화되지 않은 경우, 매번 작업을 수행할 때 사용자 확인이 필요하며, 이는 사용 효율성에도 영향을 미칩니다.