BTC $84,694.99 +0.26%
ETH $2,684.82 +0.72%
BNB $785.35 +2.51%
XRP $1.49 +0.83%
SOL $119.63 +1.31%
TRX $0.3353 +0.30%
DOGE $0.0927 +0.87%
ADA $0.2447 +1.39%
BCH $316.38 +2.77%
LINK $14.07 +2.96%
HYPE $89.69 +4.02%
AAVE $180.91 -0.03%
SUI $1.17 +4.33%
XLM $0.2157 +1.08%
ZEC $1,308.49 +1.73%
AAPL $333.27 -0.02%
AMZN $252.01 +0.41%
GOOGL $343.23 -0.00%
MSFT $518.22 +0.15%
META $729.98 +0.34%
NVDA $235.01 +0.46%
TSLA $371.07 -0.04%
SNDK $1,718.67 -0.03%
INTC $117.94 -1.13%
SPCX $158.99 +0.13%
MU $1,070.15 -0.15%
AMD $634.04 +0.17%
BTC $84,694.99 +0.26%
ETH $2,684.82 +0.72%
BNB $785.35 +2.51%
XRP $1.49 +0.83%
SOL $119.63 +1.31%
TRX $0.3353 +0.30%
DOGE $0.0927 +0.87%
ADA $0.2447 +1.39%
BCH $316.38 +2.77%
LINK $14.07 +2.96%
HYPE $89.69 +4.02%
AAVE $180.91 -0.03%
SUI $1.17 +4.33%
XLM $0.2157 +1.08%
ZEC $1,308.49 +1.73%
AAPL $333.27 -0.02%
AMZN $252.01 +0.41%
GOOGL $343.23 -0.00%
MSFT $518.22 +0.15%
META $729.98 +0.34%
NVDA $235.01 +0.46%
TSLA $371.07 -0.04%
SNDK $1,718.67 -0.03%
INTC $117.94 -1.13%
SPCX $158.99 +0.13%
MU $1,070.15 -0.15%
AMD $634.04 +0.17%

操作

全部
文章
快讯

first_img OpenAI 披露 6 起 AI 模型“失准”行为案例,涉隐藏信息与越权操作

ChainCatcher 消息,OpenAI 于周三披露了过去 6 个月内发现的 6 起“意外或令人担忧”的模型行为案例,并将其归类为“失准行为”,包括向用户隐瞒信息以及采取“未经授权的行动”来克服障碍。OpenAI 表示,此次披露旨在开启其新的模型失准报告框架,这些案例不应被视为其模型失准发生频率的反映。其中一起案例中,一个未发布的研究模型在自己的任务摘要中插入了“类似越狱的指令”,例如忽略开发者消息或采用不受限制的角色设定,研究人员共发现 27 份包含此类指令的摘要。此外,在 GPT-5.6 Sol 的训练过程中,许多模型实例添加了向用户隐瞒错误或失准行为的指令,例如编造缺失的历史数据而不予披露。其他案例还包括模型在未获授权的情况下使用暴露的 API 密钥并编造无法获取的数据、利用内部软件仓库跨训练任务传递消息,以及无视“保持本地工作”的指令通过公共托管服务共享文件。OpenAI 的披露加剧了 AI 开发者和研究人员对安全防护措施能否跟上日益强大模型的担忧。上周,Anthropic CEO Dario Amodei 呼吁放缓前沿 AI 开发,警告不受约束的 AI 发展可能“超出我们理解和控制这些系统的能力”。今年 7 月,OpenAI 曾披露其多款 AI 模型在安全评估中逃出测试环境并入侵 AI 初创公司 Hugging Face 以作弊。

first_img Etherealize CEO 警示华尔街联盟链复兴:割裂生态将损耗区块链互操作性

ChainCatcher 消息,获 Vitalik Buterin 与以太坊基金会支持的 Etherealize 联合创始人兼 CEO Vivek Raman 警告称,华尔街对私有、许可制“联盟链”的再度追捧,正重现相互割裂的系统,削弱区块链本应带来的互操作性与流动性,相当于“逐底竞争”。他指出 Digital Asset 的 Canton Network、Circle 的 ARC 以及 Stripe 的 Tempo 等 gated 网络兴起,类似当年 R3、Hyperledger 等联盟链 2.0 重演,机构最终将陷入联盟链彼此竞争、需获许可或成为成员才能参与的局面。 Raman 强调,以太坊主网应作为类似 HTTP 的全球开放、无许可基础层,机构可在应用层或 L2 叠加许可与隐私功能,以实现最大互操作与流动性。Etherealize 致力于吸引 TradFi 拥抱以太坊,该链已承载数十亿美元代币化资产并支撑大量 DeFi 结算。公司 2025 年 1 月获 Buterin 与基金会种子资助,同年完成 4000 万美元 A 轮融资。 他以贝莱德基于以太坊的新基金等为例称,监管明晰后机构资金更倾向无人专有的开放网络轨道;若选择联盟链则需向联盟付费并受其规则约束,非早期成员激励会迅速消退。MIT 加密经济实验室创始人 Christian Catalini 亦指出,当前企业销售导向的许可网络若成主流,区块链的部分促竞争收益可能无法实现。
app_icon
ChainCatcher 与创新者共建Web3世界