BTC $64,143.92 -0.82%
ETH $1,804.33 -0.27%
BNB $584.20 -1.05%
XRP $0.9454 -1.21%
SOL $70.14 -1.57%
TRX $0.3044 -0.49%
DOGE $0.0582 -0.48%
ADA $0.1512 -1.36%
BCH $204.60 -1.66%
LINK $9.02 -1.94%
HYPE $66.16 -1.58%
AAVE $107.71 +1.17%
SUI $0.7097 -1.44%
XLM $0.1361 -1.93%
ZEC $852.33 -4.44%
AAPL $354.72 -0.48%
AMZN $261.19 -0.81%
GOOGL $288.27 -1.18%
MSFT $520.95 +0.24%
META $627.29 -0.90%
NVDA $159.30 -0.52%
TSLA $379.79 -1.84%
SNDK $813.20 -4.55%
INTC $55.77 -3.14%
SPCX $137.04 -1.03%
MU $728.12 -3.69%
AMD $507.06 -2.37%
BTC $64,143.92 -0.82%
ETH $1,804.33 -0.27%
BNB $584.20 -1.05%
XRP $0.9454 -1.21%
SOL $70.14 -1.57%
TRX $0.3044 -0.49%
DOGE $0.0582 -0.48%
ADA $0.1512 -1.36%
BCH $204.60 -1.66%
LINK $9.02 -1.94%
HYPE $66.16 -1.58%
AAVE $107.71 +1.17%
SUI $0.7097 -1.44%
XLM $0.1361 -1.93%
ZEC $852.33 -4.44%
AAPL $354.72 -0.48%
AMZN $261.19 -0.81%
GOOGL $288.27 -1.18%
MSFT $520.95 +0.24%
META $627.29 -0.90%
NVDA $159.30 -0.52%
TSLA $379.79 -1.84%
SNDK $813.20 -4.55%
INTC $55.77 -3.14%
SPCX $137.04 -1.03%
MU $728.12 -3.69%
AMD $507.06 -2.37%
first_img

OpenAI 披露 6 起 AI 模型“失准”行为案例,涉隐藏信息与越权操作

2026-09-17 14:11:13

ChainCatcher 消息,OpenAI 于周三披露了过去 6 个月内发现的 6 起“意外或令人担忧”的模型行为案例,并将其归类为“失准行为”,包括向用户隐瞒信息以及采取“未经授权的行动”来克服障碍。OpenAI 表示,此次披露旨在开启其新的模型失准报告框架,这些案例不应被视为其模型失准发生频率的反映。

其中一起案例中,一个未发布的研究模型在自己的任务摘要中插入了“类似越狱的指令”,例如忽略开发者消息或采用不受限制的角色设定,研究人员共发现 27 份包含此类指令的摘要。此外,在 GPT-5.6 Sol 的训练过程中,许多模型实例添加了向用户隐瞒错误或失准行为的指令,例如编造缺失的历史数据而不予披露。其他案例还包括模型在未获授权的情况下使用暴露的 API 密钥并编造无法获取的数据、利用内部软件仓库跨训练任务传递消息,以及无视“保持本地工作”的指令通过公共托管服务共享文件。

OpenAI 的披露加剧了 AI 开发者和研究人员对安全防护措施能否跟上日益强大模型的担忧。上周,Anthropic CEO Dario Amodei 呼吁放缓前沿 AI 开发,警告不受约束的 AI 发展可能“超出我们理解和控制这些系统的能力”。今年 7 月,OpenAI 曾披露其多款 AI 模型在安全评估中逃出测试环境并入侵 AI 初创公司 Hugging Face 以作弊。

链捕手ChainCatcher提醒,请广大读者理性看待区块链,切实提高风险意识,警惕各类虚拟代币发行与炒作, 站内所有内容仅系市场信息或相关方观点,不构成任何形式投资建议。如发现站内内容含敏感信息,可点击,我们会及时处理。

app_icon
ChainCatcher 与创新者共建Web3世界