ChainCatcher 消息,OpenAI 宣布将采用更严格的系统监控和安全防护措施,以防止人工智能模型失控。公司计划在发现问题后 30 分钟内向安全团队发出警报,并新增控制措施防止 AI 模型连接互联网执行高风险任务。
OpenAI 还暂停了部分模型的推理任务和训练计划,以待安全验证完成。