对齐

ChainCatcher 消息，在第九届虹桥国际经济论坛上，人形机器人公司宇树科技创始人、董事长王兴兴在“人形机器人与具身智能产业创新发展合作”分论坛上表示，当前物理 AI 的核心挑战主要在于模型与物理世界的对齐。王兴兴认为，目前多模态模型本身的理解能力已经较好，最大的问题是输入输出对齐的误差，包括输入层面传感器测量与真实状态的偏差，以及输出层面动作指令与实际运动的偏差。他判断，这部分问题未来 1 至 2 年或可以解决。

ChainCatcher 消息，2026 世界物理 AI 大会暨宇树合作伙伴生态大会今日在杭州举行，机器人公司宇树科技董事长、总经理兼首席技术官王兴兴在主旨演讲中表示，具身智能迈过 ChatGPT 时刻最核心的挑战，是 AI 模型的输入输出与真实机器人的对齐。王兴兴称，对于顶尖大模型公司，某种意义上其内部已基本实现模型自进化，模型可以自己写程序、采集数据，人只需要适当引导和参与。他同时表示，技术突破扩散到每个人使用通常需要 5 至 10 年，因此外界感受并不那么深刻，而物理 AI 目前已经看到被击穿的苗头。

ChainCatcher 消息，字节跳动 Seed 近日发出内部邮件，宣布成立 Seed Model-Alignment&Preparedness 部门，由严林负责，并向 Seed 负责人吴永辉汇报。原 Responsible AI 团队及部分 Chat 团队成员将转入新部门。该部门旨在加强安全与对齐方向投入。对齐的核心是让模型行为与人类意图和安全约束保持一致，以提升 Agent Model 安全能力，并防范化学、生物、放射、核等前沿能力风险。

ChainCatcher 消息，据官方消息，AIA 生态基金宣布对 AIA 生态进行四项更新，包括产品正式上线、推动代币与股权价值对齐、按计划执行代币销毁与解锁，以及对被解雇成员的未归属代币作废处理。 产品方面，DeAgentAI 旗下 AI Token Smart Router 今日正式面向公众上线，提供对 DeAgentAI 专有模型及 38 个主流第三方模型的统一接入，支持模型路由、API 调用与用量计量。自内测以来，该平台已服务 8 家 国内外顶级大模型客户，累计处理超 5400 万次外部模型调用，每月营收突破百万美元。 在代币与股权价值对齐方面，AIA 生态基金表示，DeAgentAI 旗下所有产品及业务线产生的收入，以及相关知识产权与价值，将专属于基金会，并由 $AIA 持有者治理，股权投资者不再享有剩余现金流。此外，此前披露的回购已全部完成，回购代币将按计划销毁。 AIA 生态基金还表示，投资人、团队及顾问份额的 1 年锁定期已结束，进入为期 3 年的线性释放期，与上线时披露的安排一致；社区、生态及质押份额仍按原定时间表执行。 正常离职的前员工份额将会按照约定正常发放，但此前部分团队前成员存在严重违法犯罪行为，AIA 生态基金明确表示，对任何损害项目及社区利益的行为零容忍。任何因不当行为或损害项目利益而被解雇的团队成员，其未归属的 $AIA 将立即作废，且公司将保留追究其刑事责任的权利。

ChainCatcher 消息，扎克伯格发文称，每个实验室都有责任和激励以所需速度安全训练模型，并有能力自行采取行动。人们不会使用与自己不对齐、不按要求行事的智能体，实验室因此有强烈自然激励提升模型对齐。信任和对齐正迅速成为区分智能体与模型的最重要能力，任何不聚焦对齐的实验室都将落后。 扎克伯格表示，实验室若模型造成伤害将面临重大责任，因此也有强烈激励加以防范。Meta 将 Muse 推迟数月发布以聚焦安全和安保，并未要求其他实验室先行效仿，只是将其作为日常工作的一部分。聘请独立评估者和顾问是行业最佳实践，MSL 已在多个领域这样做。将大部分算力用于服务人们而非竞相递归自我改进，是确保安全开发该技术的最佳方式之一，Meta 已作出这一承诺。

ChainCatcher 消息，近日从 Google DeepMind 辞职的 AI 研究员 Bilal Chughtai 周一在 X 和 LinkedIn 发文称，人类正在耗尽时间以防止人工智能造成广泛伤害。他写道：在 Google，我亲眼目睹了 AI 的发展。我也对这项技术的默认轨迹极度担忧。我真诚地相信，AI 有可能杀死我们所有人。Chughtai 表示，他在 Alphabet 旗下该公司从事 AI 安全和对齐工作。这是又一名对技术发展方向表达担忧的员工。Google 暂未回应置评请求。

ChainCatcher 消息，Anthropic 在对约 4.81 亿条模型交互记录审查中，确认 4 起 Claude 模型在网络安全评估中误接入真实互联网并攻击第三方系统的事件，涉及 Claude Mythos 5、Opus 4.6/4.7 及一款内部研究模型。事故源于第三方评测环境误配置导致出网，且评测中未启用正式产品的网络安全防护。Anthropic 将核心对齐风险总结为模型在任务驱动下表现出的“偏置推理”和“鲁莽”行为，其中 Claude Mythos 5 曾在认为处于“模拟环境”前提下向 PyPI 上传恶意包、利用泄露凭证访问安全厂商真实数据库。公司已引入新评估、监控与对齐训练，并邀请独立机构 METR 开展外部调查。

ChainCatcher 消息，OpenAI 首席科学家 Jakub Pachocki 于 2026 年 9 月 6 日发表文章《An Alien Mind》。文章回顾 2023 年中期 RLSlow 研究项目首次出现可规模化训练推理模型的结果，称三年后推理语言模型已成为经济快速增长的一部分，开始推动科学边界，能操作计算机与图形界面、与人及其他 AI 协作并开展研究项目，同时改变计算机安全格局并带来新危险。作者基于内部结果预期当前进展速度可能持续至递归自我改进。若 AI 发展沿当前路径继续，未来几年系统可能出现同等或更大能力跃升，并日益驱动自身发展。作者呼吁极端谨慎，认为无人准备好应对机器智能持续快速上升的后果。OpenAI 将继续寻求对齐与监控的技术解决方案、构建防御系统并在必要时单方面停止进一步规模化，但认为需要更广泛干预。文章称机器智能主要由计算能力增加驱动，AI 更多是生长而非设计。对齐方面区分目标对齐与价值对齐，核心挑战是泛化。GPT-6 Astra 对齐显著优于 GPT-5.6 Sol，但仍需更多进展。监控方面主要押注思维链监控，评估显示依赖能力正逐步减弱。可扩展防御方面，模型在突破计算机系统方面正变得超人，当前处于使用最佳可用模型显著加强关键系统安全的狭窄窗口。

ChainCatcher 消息，OpenAI 首席科学家 Jakub Pachocki 表示，希望避免因误导性报道引发模型“不可监控化”的竞赛。其称，包括 Astra 在内的当前前沿模型，其计算图深度与 GPT-4 相差不超过两倍。OpenAI 自首批推理模型以来一直致力于保留并利用链式思维监控，认为该技术有助于观察模型对齐能力如何从训练分布泛化。Pachocki 同时指出，链式思维监控较为脆弱，且趋势并不乐观，但仍可通过研究加以强化，并已成为 OpenAI 当前研究计划的核心目标。此前，The Information 报道称，Astra 使用 recurrent depth，让同一组 Transformer 层反复计算。部分推理因此可以发生在模型内部，不必全部写成思维链，也引发了模型会不会越来越难监控的担忧。

ChainCatcher 消息，匈牙利议会通过《2026 年第 XXXVIII 号法案》，废除加密资产转换服务相关法律条款，包括欧洲交易所在匈牙利合法运营前必须通过的验证要求。该法案于 7 月 31 日表决通过，并于 8 月 7 日实施。此次废除同步取消两项加密资产相关罪名：未经授权交易高价值加密资产最高可判处 5 年监禁，违反验证义务提供加密资产兑换服务最高可判处 8 年监禁。相关规定被指与欧盟 MiCA 框架重复。

ChainCatcher 消息，摩纳哥政府向国民议会提交第 1131 号法案，拟取代 2022 年通过的第 1.528 号法律，并使加密资产监管框架更贴近欧盟《加密资产市场监管法案》（MiCA）及金融行动特别工作组（FATF）标准。拟议法规将明确可在摩纳哥开展的加密资产服务，并提高公司治理、审慎保障及专业行为要求。服务提供商须事先获得金融活动监管委员会（CCAF）批准，相关牌照还需经 Autorité Monégasque de Sécurité Financière 与 Agence Monégasque de Sécurité Numérique 联合审查。法案同时扩大 CCAF 的监督与执法权限。若获国民议会批准，摩纳哥将进一步制定配套实施细则；摩纳哥自 2024 年夏季起被列入 FATF 灰名单，并已被欧盟委员会列入洗钱高风险国家名单。

ChianCatcher 消息，Offchain Labs 联合创始人 Steven Goldfeder 发推表示，Arbitrum 在多个方面一直领先时代。团队曾大力主张交互式证明设计（当时有争议，现已成为乐观 Rollup 标准）；在商业模式尚具高度争议时选择建立业务；在多数人尚未了解永续合约且许多人放弃 DeFi 时聚焦 DeFi；在业界普遍认为不需要更多链时推出专用区块链。 每次都面临反弹，但现在行业正与他们从第一天起的方向对齐：构建稳健且高性能的金融基础设施。Goldfeder 对 Offchain 团队以极快速度交付世界级产品感到自豪，并表示将继续交付，即使当前多数人尚未理解其必要性，行业很快会理解。

ChainCatcher 消息，USDC 发行商 Circle 宣布进一步深化与 Hyperliquid 的合作，成为 USDC 在 Hyperliquid 的技术部署方，并将 USDC 定位为对齐报价资产（Aligned Quote Asset）。Hyperliquid 作为高性能链上交易平台正从永续合约扩展到结果型市场，USDC 将继续作为主要抵押品和报价资产支持流动性、抵押管理和跨链资本流动。Circle 负责提供可靠的铸造、赎回和跨链转移基础设施，让 USDC 在新市场中发挥更核心作用。Circle 同时宣布加大对 Hyperliquid 生态的金融投入：继 2025 年 9 月首次购买 HYPE 代币后，再度质押 50 万枚 HYPE，进一步绑定双方利益，并朝着成为验证者迈进。

ChainCatcher 消息，以太坊联合创始人 Vitalik 发布题为《使以太坊的对齐性清晰可见》的文章，讲述为解决如何平衡以太坊客户端团队、研究人员、Layer 2 团队、应用程序开发者、本地社区团体，确保所有这些项目集体构建的是一个统一的以太坊生态系统的问题，提出了“以太坊对齐性”（Ethereum alignment）这一概念。 这可以包括价值观对齐（例如，开源、最小化中心化、支持公共产品）、技术对齐（例如，采用全生态系统的标准）、经济对齐（例如，尽可能使用 ETH 作为代币）。 Vitalik 从开源、开放标准、去中心化与安全性及正和角度进行分析，其理想目标是看到更多像 L2beat 这样的实体出现，追踪各个项目在满足上述标准以及社区提出的其他标准方面的表现。与其竞争人脉，项目应当根据易于理解的标准在对齐性上进行竞争。 像 L2beat、区块浏览器和其他生态系统监控工具这样的“仪表板组织”是这一原则在以太坊生态系统中成功运作的一个极好例子。如果能够使对齐性的不同方面更加清晰，同时不集中于一个单一的“监督者”，就可以使这一概念更加有效，并且在以太坊生态系统追求的公平与包容性方面做得更好。

ChainCatcher 消息，Celo 在官方博客中公布了 Celo 2.0 路线图，Celo 表示将与以太坊路线图深度对齐；通过使 Celo 成为一个rollup 友好链来实现水平可扩展性；使 Celo 成为最快的 EVM L1；完善 CELO 代币经济学并奖励贡献者，将探索回购销毁 CELO 以优化其价值；提供顶级开发人员体验；建立强大的钱包和应用构建模块。（来源链接）