BTC $64,246.93 +0.23%
ETH $1,802.66 +0.73%
BNB $589.27 +0.35%
XRP $0.9961 +3.98%
SOL $74.54 +3.22%
TRX $0.3088 +1.10%
DOGE $0.0593 +1.54%
ADA $0.1531 +0.60%
BCH $208.09 -0.16%
LINK $9.15 +0.42%
HYPE $68.45 +0.04%
AAVE $110.75 +0.11%
SUI $0.7251 +0.68%
XLM $0.1407 +2.53%
ZEC $937.48 +1.72%
AAPL $350.90 -0.57%
AMZN $260.31 +1.20%
GOOGL $283.07 +0.32%
MSFT $508.00 -1.87%
META $619.88 -0.48%
NVDA $160.40 +2.78%
TSLA $384.36 +1.58%
SNDK $823.96 +2.74%
INTC $55.96 +3.42%
SPCX $142.40 +3.60%
MU $733.00 +2.22%
AMD $515.94 +1.72%
BTC $64,246.93 +0.23%
ETH $1,802.66 +0.73%
BNB $589.27 +0.35%
XRP $0.9961 +3.98%
SOL $74.54 +3.22%
TRX $0.3088 +1.10%
DOGE $0.0593 +1.54%
ADA $0.1531 +0.60%
BCH $208.09 -0.16%
LINK $9.15 +0.42%
HYPE $68.45 +0.04%
AAVE $110.75 +0.11%
SUI $0.7251 +0.68%
XLM $0.1407 +2.53%
ZEC $937.48 +1.72%
AAPL $350.90 -0.57%
AMZN $260.31 +1.20%
GOOGL $283.07 +0.32%
MSFT $508.00 -1.87%
META $619.88 -0.48%
NVDA $160.40 +2.78%
TSLA $384.36 +1.58%
SNDK $823.96 +2.74%
INTC $55.96 +3.42%
SPCX $142.40 +3.60%
MU $733.00 +2.22%
AMD $515.94 +1.72%

前沿模型

全部
文章
快讯

first_img 微软 CEO:应将前沿模型视为内部风险,控制须置于模型之外

ChainCatcher 消息,微软首席执行官萨提亚·纳德拉发文讨论超级智能时代的信任架构。他称,传统软件可把行为追溯到具体代码路径,而当前超级智能系统缺乏这种机制性理解,无法将模型行为与输出归因于特定训练数据或权重配置,却正在被部署并接触敏感数据、代为执行关键行动。他表示,不能把对智能行为的责任外包给模型提供方,也不能把超级智能当作层层嵌套的黑箱来接受或拒绝其建议与行动。 纳德拉提出,应将智能的供给与对智能的授权分开,用确定性系统设计、人工控制和操作规程包围非确定性模型,并在现有标准不足时建立行业标准。他建议把闭源与开源权重的前沿模型当作内部风险来管理,并非因为它们必然具有恶意,而是因为具备足够能力且能接触重要系统的行为主体可能出错或被攻破。相关做法包括建立身份、限制权限、记录活动并设置隔离边界,模型思维链透明应成为不可协商的起点。 他进一步称,权限与行动控制必须置于模型之外,模型、编排层与行动空间应分离。原则包括避免单一模型成为重要结果的唯一依赖或核验自身工作,关键行动须留下防篡改且人类可读的证据,持续测试失败、攻击与边界情况,组织独立决定访问与行动权限,验证独立于被验证的智能,预设模型已被攻破并支持中途暂停或关闭,以及在失效或被攻破时及时披露并在行业内共享教训。他总结称,最值得信任的超级智能系统,是让人最少需要信任模型的系统。

first_img Chamath:开源权重模型距最佳闭源前沿模型约四个月

ChainCatcher 消息,Social Capital 创始人 Chamath Palihapitiya 发布深度研究报告称:开源权重模型已接近公开评估的最佳闭源前沿模型约四个月,且差距波动加大。若开源模型在接近前沿性能的同时让企业更多控制数据、基础设施与定制化,企业仍向前沿实验室付费所对应的价值成为商业问题。开放性存在光谱,从可下载并自由修改的完全开源模型,到带有不同限制的开源权重模型,闭源模型则保持权重私有。Palantir 首席执行官 Alex Karp 警告,企业可能将构成差异化的专有知识与流程交给前沿模型提供商。微软首席执行官 Satya Nadella 表示:企业实际上为智能付费两次,一次是金钱,另一次是为使智能有用而必须披露的更有价值的专有知识。尽管存在担忧,企业仍愿为前沿性能付费,即使最佳开源权重模型仅落后数月,前沿实验室收入持续加速。领先企业同时使用两类模型,以开源模型获取控制与定制,以闭源前沿模型获取最高能力,部分案例报告最高 12 倍工程效率与超过 20 倍成本节约。部分厂商采取双轨,Google 同时提供 Gemini 与 Gemma,Meta 同时提供 Muse Spark 与 Llama。该 99 页报告还涉及前沿实验室维持领先的成本、模型竞争的五个因素、模型运行位置,以及 NVIDIA 与 Samsung 对开源权重的投资。
app_icon
ChainCatcher 与创新者共建Web3世界