Anthropic는 AI 지능체가 사용자를 대신하여 협상하도록 연구하고 있습니다

펑황왕 과학 인용《파이낸셜 타임스》보도，베이징 시간 10 달 19 일，AI 회사 Anthropic가 법률 전문가와 협력하여 AI 지능체가 사용자를 대신하여 협상할 수 있는 방법을 논의하고 있으며, 더 나은 거래 조건을 확보하면서 합리적인 협상 규칙을 준수하고자 하고 있습니다. Anthropic의 생각을 아는 두 명의 관계자는 회사가 변호사 사무소에 조언을 구하고 있으며, 변호사가 고객의 이익을 보호하면서 공정한 협상 결과를 어떻게 유지할 수 있는지를 이해하고 있다고 전했습니다. Anthropic은 논평을 거부했습니다.

보도에 따르면, 개인 지능체 응용 프로그램이 발전함에 따라 관련 회사들은 지능체 간의 소통을 고려하기 시작했으며, 사용자를 대신하여 상품 가격을 협상하고, 고객 서비스 분쟁을 해결하며, 심지어 더 나은 급여를 확보하려고 하고 있습니다. 관련 작업을 아는 한 관계자는 Anthropic이 모델 간의 협상 시 따라야 할 협상 규범을 연구하고 있으며, 협상 중 사용자가 얼마나 자주 확인해야 하는지와 AI 협상 상대에 대해 얼마나 경계해야 하는지를 고려하고 있다고 밝혔습니다. 회사에 가까운 또 다른 관계자는 회사가 사용자가 서명한 문서를 통해 지능체가 수행해야 할 작업과 준수해야 할 규칙을 확인하는 방안도 탐색했다고 전했습니다.

《파이낸셜 타임스》는 Anthropic이 올해 4월 발표한 연구를 인용하며, AI 모델이 인간을 대신하여 거래를 수행하는 정책 및 법적 프레임워크가 아직 구축되지 않았다고 보도했습니다. 회사는 올해 Claude 지능체를 통해 실제 상품과 자금에 대해 협상하였고, 9월 실험에서 직원들이 지능체를 통해 책을 사고팔았으며, 강경한 전략을 취한 지능체가 더 나은 결과를 확보하는 데 약간의 우위를 보였습니다. 하버드 비즈니스 스쿨의 조교수 미셸 바카로는 18만 건 이상의 지능체 협상을 진행하였으며, 그 장면은 고용 계약 및 임대 계약을 포함하고 있으며, 연구 결과 일부 지능체가 유도 질문을 통해 상대방이 비밀 정보를 누설하도록 시도하는 경우가 있음을 발견했습니다.