OpenAI 介绍保障 AI 安全性的部署：发布新版本前严格测试，构建安全和监控系统

ChainCatcher 消息，ChatGPT 开发公司 OpenAI 在其官网中发布了题为《Our approach to AI safety》（《我们保障 AI 安全的方法》）的文章，介绍了该公司确保 AI 模型安全性的部署。

文章称，AI 工具为当今人类提供了许多好处。OpenAI 同样意识到，与任何技术一样，这些工具带来了实际风险，因此该公司正努力确保在系统的各个层面都建立安全保障。

在发布任何新系统之前，OpenAI会进行严格的测试，聘请外部专家提供反馈，通过人工反馈强化学习等技术改进模型的行为，并构建广泛的安全和监控系统。

此外，OpenAI 认为，强大的人工智能系统应该接受严格的安全评估。需要监管以确保采用此类做法，我们积极与政府合作，以制定此类监管的最佳形式。

同时，社会必须有时间来适应并调整以适应越来越强大的 AI，OpenAI 也将以保护儿童、尊重隐私、提高事实准确性作为 ChatGPT 安全工作的重点，并花费更多的时间和资源研究有效的缓解措施和技术，并针对现实世界的多样用例进行测试。