BTC $62,570.94 -2.83%
ETH $1,768.59 -2.05%
BNB $579.46 -2.11%
XRP $0.9605 -1.42%
SOL $73.12 -1.87%
TRX $0.3096 +0.77%
DOGE $0.0584 -1.45%
ADA $0.1505 -1.78%
BCH $204.77 -1.88%
LINK $9.01 -2.11%
HYPE $66.62 -2.95%
AAVE $108.51 -2.81%
SUI $0.7155 -1.54%
XLM $0.1356 -3.19%
ZEC $897.55 -5.57%
AAPL $353.84 +0.86%
AMZN $269.72 +4.11%
GOOGL $284.97 +1.03%
MSFT $510.70 +0.41%
META $617.54 -0.28%
NVDA $151.49 -3.69%
TSLA $384.82 +0.60%
SNDK $784.01 -3.43%
INTC $55.25 -0.52%
SPCX $144.78 +1.97%
MU $712.92 -1.39%
AMD $532.40 +4.33%
BTC $62,570.94 -2.83%
ETH $1,768.59 -2.05%
BNB $579.46 -2.11%
XRP $0.9605 -1.42%
SOL $73.12 -1.87%
TRX $0.3096 +0.77%
DOGE $0.0584 -1.45%
ADA $0.1505 -1.78%
BCH $204.77 -1.88%
LINK $9.01 -2.11%
HYPE $66.62 -2.95%
AAVE $108.51 -2.81%
SUI $0.7155 -1.54%
XLM $0.1356 -3.19%
ZEC $897.55 -5.57%
AAPL $353.84 +0.86%
AMZN $269.72 +4.11%
GOOGL $284.97 +1.03%
MSFT $510.70 +0.41%
META $617.54 -0.28%
NVDA $151.49 -3.69%
TSLA $384.82 +0.60%
SNDK $784.01 -3.43%
INTC $55.25 -0.52%
SPCX $144.78 +1.97%
MU $712.92 -1.39%
AMD $532.40 +4.33%

前沿模型

全部
文章
快訊

first_img 微軟 CEO:應將前沿模型視為內部風險,控制須置於模型之外

ChainCatcher 消息,微軟首席執行官薩提亞·納德拉發文討論超級智能時代的信任架構。他稱,傳統軟體可把行為追溯到具體代碼路徑,而當前超級智能系統缺乏這種機制性理解,無法將模型行為與輸出歸因於特定訓練數據或權重配置,卻正在被部署並接觸敏感數據、代為執行關鍵行動。他表示,不能把對智能行為的責任外包給模型提供方,也不能把超級智能當作層層嵌套的黑箱來接受或拒絕其建議與行動。納德拉提出,應將智能的供給與對智能的授權分開,用確定性系統設計、人工控制和操作規程包圍非確定性模型,並在現有標準不足時建立行業標準。他建議把閉源與開源權重的前沿模型當作內部風險來管理,並非因為它們必然具有惡意,而是因為具備足夠能力且能接觸重要系統的行為主體可能出錯或被攻破。相關做法包括建立身份、限制權限、記錄活動並設置隔離邊界,模型思維鏈透明應成為不可協商的起點。他進一步稱,權限與行動控制必須置於模型之外,模型、編排層與行動空間應分離。原則包括避免單一模型成為重要結果的唯一依賴或核驗自身工作,關鍵行動須留下防篡改且人類可讀的證據,持續測試失敗、攻擊與邊界情況,組織獨立決定訪問與行動權限,驗證獨立於被驗證的智能,預設模型已被攻破並支持中途暫停或關閉,以及在失效或被攻破時及時披露並在行業內共享教訓。他總結稱,最值得信任的超級智能系統,是讓人最少需要信任模型的系統。

first_img Chamath:開源權重模型距最佳閉源前沿模型約四個月

ChainCatcher 消息,Social Capital 創始人 Chamath Palihapitiya 發布深度研究報告稱:開源權重模型已接近公開評估的最佳閉源前沿模型約四個月,且差距波動加大。若開源模型在接近前沿性能的同時讓企業更多控制數據、基礎設施與定制化,企業仍向前沿實驗室付費所對應的價值成為商業問題。開放性存在光譜,從可下載並自由修改的完全開源模型,到帶有不同限制的開源權重模型,閉源模型則保持權重私有。Palantir 首席執行官 Alex Karp 警告,企業可能將構成差異化的專有知識與流程交給前沿模型提供商。微軟首席執行官 Satya Nadella 表示:企業實際上為智能付費兩次,一次是金錢,另一次是為使智能有用而必須披露的更有價值的專有知識。儘管存在擔憂,企業仍願為前沿性能付費,即使最佳開源權重模型僅落後數月,前沿實驗室收入持續加速。領先企業同時使用兩類模型,以開源模型獲取控制與定制,以閉源前沿模型獲取最高能力,部分案例報告最高 12 倍工程效率與超過 20 倍成本節約。部分廠商採取雙軌,Google 同時提供 Gemini 與 Gemma,Meta 同時提供 Muse Spark 與 Llama。該 99 頁報告還涉及前沿實驗室維持領先的成本、模型競爭的五個因素、模型運行位置,以及 NVIDIA 與 Samsung 對開源權重的投資。
app_icon
ChainCatcher 與創新者共建Web3世界