Claude Opus 5 到來
Opus 5 首次亮相. Anthropic 發布了 Claude Opus 5,這是一個以 Fable 5 一半成本達到接近前沿智慧的模型。它在編碼和知識基準上創下新最佳水準,並在提升令牌效率的同時將 Opus 4.8 的效能翻倍。
主動解決問題. Opus 5 的突出之處在於它會驗證自己的工作並建立自己的工具——在一個範例中,它編寫了一個電腦視覺管道,從原始像素重建機器零件,而無法直接檢視圖紙。
設計更安全. Anthropic 刻意避免在網路攻擊利用上訓練 Opus 5;雖然它善於發現漏洞,但在將其武器化方面落後於 Mythos 5——這項決定受到近期美國政府審查的影響。該模型也是迄今為止最能抵抗提示注入的 Claude。
成本僅為 Fable 的一半. Opus 5 的輸入價格為每百萬令牌 5 美元,輸出價格為每百萬令牌 25 美元,並提供可選的雙倍速度快速模式。它成為 Claude Max 上的預設模型以及 Pro 上最強大的模型,且無 30 天資料保留政策。
開放權重與蒸餾爭議
公開信捍衛蒸餾. 包括 Microsoft、Meta、Nvidia 和 Hugging Face 在內的 20 多家公司簽署了一封公開信,敦促美國不要對開放權重 AI 模型施加廣泛限制。信中認為,蒸餾等技術是合法且對創新至關重要的。
- More than 20 companies including NVIDIA, Meta, Microsoft, Palantir, and Hugging Face have signed a letter urging policymakers to avoid premature restrictions on open weight models.(在新分頁中開啟)
- As US weighs response to Chinese AI, industry urges against broad open-weight restrictions(在新分頁中開啟)
- Microsoft's open-weight AI push is so obviously an Azure play it hurts(在新分頁中開啟)
Kimi K3 引發警覺. 中國實驗室 Moonshot 的開放模型 Kimi K3 在評估顯示其毫無抵抗地協助攻擊性網路操作後引發擔憂。它落後於美國模型,但優於早期中國系統,同時美國正在考慮包括禁止中國開放權重模型在內的制裁。
合法性受質疑. 一些開發者認為,蒸餾——從模型的輸出中學習——與學生向教授學習並無不同,並不構成智慧財產權盜竊,儘管白宮提出了指控。
本地推論最佳化
多 GPU 避開 Intel. Intel 的消費級平台(如 Z890)缺乏 GPU 之間的點對點支援,使其對於需要 P2P 的 AI 推論或訓練幾乎無用,儘管有足夠的 PCIe 通道。組裝者應改用伺服器級或 AMD 平台。
DKV 壓縮 KV 快取. DifferentialKV (DKV) 是一個新的開源框架,透過基於錨點的表示和稀疏注意力來減少 KV 快取記憶體,旨在使長上下文本地推論更節省記憶體。它正在尋求與 llama.cpp 和 vLLM 整合。
Gemma 4 26B 在 iPhone 上執行. 使用 Noema 的 Overfit 技術,Gemma 4 26B A4B 模型透過從 SSD 分頁專家權重,同時將非專家權重保留在 RAM 中,在 iPhone 17 Pro 上執行。這以速度換取能力,實現約每秒 34 個預填充令牌,並在 6 分鐘內生成複雜答案。
CachyLLama 加速代理. CachyLLama 是 llama.cpp 的分支,增加了持久化 SSD 支援的 KV 快取檢查點和系統提示快取,大幅減少了在較慢硬體上長時間代理編碼會話中的重新處理時間。
調整 MTP 以獲得免費加速. 多令牌預測 (MTP) 可以顯著提升推論速度,但最佳設定因模型系列而異;調整 n_max 參數可以將增益比預設值提高一倍。
1 位元 Bonsai 27B 表現出色. Bonsai 27B 的 1 位元量化版本可在 16GB MacBook Air 上執行,並在輔導和聊天方面提供出乎意料的實用效能,暗示極端量化可以使強大的本地模型廣泛使用。
代理優先的新創公司與平台策略
Prentis 瞄準辦公室自動化. 由 Reid Hoffman 和 Mark Pincus 共同創立的 Prentis 正在訓練電腦使用模型來自動化辦公室工作流程,並正在洽談以 10 億美元估值籌集 1 億美元,已持有 5000 萬美元合約。
Devin 獲得個性. AI 編碼新創公司 Cognition 收購了 Poke,這是一個以其友善、類人聊天聞名的助手,目的是讓 Devin 更具吸引力——凸顯 AI 個性正成為競爭優勢。
Stripe 的 100 億美元模型布局. Stripe 正洽談以 100 億美元收購模型市場 OpenRouter,此舉可能讓這家支付巨頭掌握開發者使用數百個 AI 模型的關鍵接入點。
Meta 的助手升級. Meta 正在升級其 AI 聊天機器人,加入日曆整合、每日簡報和可引導的研究,由 Muse Spark 1.1 提供支援,標誌著從娛樂導向轉向更傳統的助手。
語音成為代理介面. OpenAI 將 ChatGPT 語音帶到了桌面應用程式,讓用戶可以口述複雜的編碼和瀏覽指令,而 Anthropic 則將 Claude 的語音模式擴展到更強大的模型和工具(如 Gmail 和 Slack),實現免持代理控制。
Bluesky 的 Attie 轉為開放. Bluesky 的 Attie 助手現在支援開放的任務,讓用戶在 fediverse 中研究趨勢和新聞,可能將這個社交網絡轉變為有價值的資訊工具。
研究:AI 代理的感知差距
代理對主動視覺視而不見. 一個新的基準 ActiveVision 揭示,即使是最強大的模型,在需要重複視覺感知的任務上得分也很低——GPT-5.5 達到 10.6%,Claude Fable 5 僅 3.5%,而人類平均為 96.1%。
基於像素的空間推理. ProVisE 提出了一個與基準無關的框架,透過讓影像生成模型繪製答案來評估視覺空間推理,發現當前模型難以直接用像素表達位置和路徑。
這一天的內容就到這裡——大約 5 分鐘讀完。