微軟 CEO：應將前沿模型視為內部風險，控制須置於模型之外

ChainCatcher 消息，微軟首席執行官薩提亞·納德拉發文討論超級智能時代的信任架構。他稱，傳統軟體可把行為追溯到具體代碼路徑，而當前超級智能系統缺乏這種機制性理解，無法將模型行為與輸出歸因於特定訓練數據或權重配置，卻正在被部署並接觸敏感數據、代為執行關鍵行動。他表示，不能把對智能行為的責任外包給模型提供方，也不能把超級智能當作層層嵌套的黑箱來接受或拒絕其建議與行動。

納德拉提出，應將智能的供給與對智能的授權分開，用確定性系統設計、人工控制和操作規程包圍非確定性模型，並在現有標準不足時建立行業標準。他建議把閉源與開源權重的前沿模型當作內部風險來管理，並非因為它們必然具有惡意，而是因為具備足夠能力且能接觸重要系統的行為主體可能出錯或被攻破。相關做法包括建立身份、限制權限、記錄活動並設置隔離邊界，模型思維鏈透明應成為不可協商的起點。

他進一步稱，權限與行動控制必須置於模型之外，模型、編排層與行動空間應分離。原則包括避免單一模型成為重要結果的唯一依賴或核驗自身工作，關鍵行動須留下防篡改且人類可讀的證據，持續測試失敗、攻擊與邊界情況，組織獨立決定訪問與行動權限，驗證獨立於被驗證的智能，預設模型已被攻破並支持中途暫停或關閉，以及在失效或被攻破時及時披露並在行業內共享教訓。他總結稱，最值得信任的超級智能系統，是讓人最少需要信任模型的系統。