BTC $64,962.10 +0.68%
ETH $1,823.12 +0.65%
BNB $590.03 +0.00%
XRP $0.9581 +0.85%
SOL $71.34 +0.01%
TRX $0.3069 +0.57%
DOGE $0.0593 +1.12%
ADA $0.1527 -0.25%
BCH $207.46 -0.03%
LINK $9.16 -0.70%
HYPE $66.88 +0.69%
AAVE $107.34 +0.68%
SUI $0.7201 +0.46%
XLM $0.1374 -0.59%
ZEC $889.18 -0.95%
AAPL $353.91 -0.72%
AMZN $258.89 -1.64%
GOOGL $287.12 -1.51%
MSFT $522.52 +0.52%
META $626.89 -0.95%
NVDA $156.50 -2.42%
TSLA $379.64 -1.90%
SNDK $820.05 -4.29%
INTC $55.68 -3.43%
SPCX $136.86 -1.35%
MU $727.90 -3.97%
AMD $508.23 -2.41%
BTC $64,962.10 +0.68%
ETH $1,823.12 +0.65%
BNB $590.03 +0.00%
XRP $0.9581 +0.85%
SOL $71.34 +0.01%
TRX $0.3069 +0.57%
DOGE $0.0593 +1.12%
ADA $0.1527 -0.25%
BCH $207.46 -0.03%
LINK $9.16 -0.70%
HYPE $66.88 +0.69%
AAVE $107.34 +0.68%
SUI $0.7201 +0.46%
XLM $0.1374 -0.59%
ZEC $889.18 -0.95%
AAPL $353.91 -0.72%
AMZN $258.89 -1.64%
GOOGL $287.12 -1.51%
MSFT $522.52 +0.52%
META $626.89 -0.95%
NVDA $156.50 -2.42%
TSLA $379.64 -1.90%
SNDK $820.05 -4.29%
INTC $55.68 -3.43%
SPCX $136.86 -1.35%
MU $727.90 -3.97%
AMD $508.23 -2.41%

奥特曼

全部
文章
快讯

奥特曼向员工介绍安全开发超级 AI 三条路径

ChainCatcher 消息,OpenAI 首席执行官奥特曼上周向员工介绍了三种安全开发超级 AI 的方案。第一种是建立类似国际原子能机构的全球监管组织,检查先进模型并审计安全措施。知情人士称,奥特曼倾向于这条路线。第二种效仿欧洲核子研究中心,让各大 AI 实验室合并到一个组织,或通过统一机构共同研发,而不是继续各自竞速。第三种最极端,被他称为「Eliezer 方案」:一家 AI 公司率先实现递归自我改进,再凭借压倒性经济实力控制算力,使其他开发者无法追赶。奥特曼用「熔毁其他所有公司的 GPU」描述这一设想,同时表示该方案非常糟糕,只是为了把可能性讲全。「熔毁 GPU」的设想来自 AI 安全研究者 Eliezer Yudkowsky。他在 2021 年提出思想实验,让超级 AI 制造能够自我复制的纳米机器以熔毁全球 GPU,并表示这只是说明干预力度的极端例子,并非主张执行的方案。OpenAI 在 2023 年提出过建立「AI 版国际原子能机构」,Google DeepMind 负责人 Hassabis 也曾主张设立「AI 版 CERN」。目前 OpenAI、Google 和 Anthropic 计划在今年底或明年初成立联合安全标准组织,但在模型安全测试责任归属上存在分歧。奥特曼希望为 AI 研发设定速度限制,同时表示 OpenAI 眼下不能把竞争优势让给对手。
app_icon
ChainCatcher 与创新者共建Web3世界