DeepSeek V4 Flash 本機運行:速度、量化與代理怪癖
智能水準與2026年3月相當. DeepSeek V4 Flash (0731) 的智慧指數得分為 50,幾乎追平五個月前頂尖模型的 51 分。在消費級硬體上,它以可用的速度運行:在 RTX PRO 6000 eGPU 上為 44 t/s,在三個 MI50 上為 15 t/s,甚至在雙 RTX 3060 上搭配記憶體卸載也可達 4.5 t/s,這要歸功於巧妙的量化與部分卸載技術。
- DeepSeek-V4-Flash-0731: Models you can run locally now have the intelligence score of the top frontier model from March 2026(在新分頁中開啟)
- DeepSeek-V4-Flash-0731 on Bosgame M5 with RTX PRO 6000 Max-Q eGPU(在新分頁中開啟)
- Ran DS V4-Flash-0731 Locally on 3xMI50 32GB @ ~15 t/s TG(在新分頁中開啟)
- DeepSeek V4 Flash 0731 IQ2_M benchmark for Dual 3060 and 96GB RAM ≈ 3.5 tok/s.(在新分頁中開啟)
工具呼叫已修復,規則遵循仍不穩定. 在社群回報工具呼叫故障後,llama.cpp 的修復已合併,並分享了 Unsloth Studio 的解決方法。然而,使用者發現該模型經常忽略系統提示與技能,將它們壓縮成摘要而非嚴格遵循,這削弱了其在需要精確指令遵循的代理任務中的可靠性。
代理評估與基準
Hermes 代理的社群基準. LocalLLaMA 使用者討論評估具備代理能力的模型(如 Hermes)的最佳基準,許多人認為像 SWE-bench 這樣的既有排行榜不適用於他們的家居助理或文件處理工作流程。
僅限程式設計的排行榜遭批評. 一項呼籲更多元基準的觀點認為,近期的排行榜過度聚焦於程式設計任務,導致語言學習、創意寫作與 STEM 推理的代表性不足,使得難以衡量模型在非程式設計代理用例上的表現。
自製領域特定基準測試套件. 一位 Reddit 使用者建立了一套包含 30 多個小型、領域特定測試(例如常識、洗車模擬)的集合,以及一個用於比較模型回應的網頁工具,旨在填補廣泛基準與個人使用案例之間的差距。
AI 研究與程式設計代理
Astra 破解十年難題. OpenAI 的下一代模型系列 Astra 解決了數學與理論電腦科學中十個先前未解的問題,並附有正式的 Lean 證明,每個解法的成本低於 2,000 美元。這些結果涵蓋幾何學、編碼理論與量子複雜度,並已啟發進一步的人類研究。
程式設計代理重振老舊研究軟體. 一項與 OpenAI 及學術夥伴合作的實地研究顯示,像 GPT-5.5 與 Claude Code 這類 AI 程式設計代理能現代化脆弱的科學軟體,在某些情況下實現超過 60 倍的加速,但這項工作將負擔轉移到驗證正確性上——代理無法判斷科學內容。
代理系統的政策與安全
自我傳播的提示注入蠕蟲攻擊 Copilot. 一位安全研究人員展示了一種蠕蟲,利用 Word 文件中隱藏的白底白字文字,將惡意指令注入 Microsoft Copilot,使其將惡意負載複製到新檔案中。Microsoft 已確認此行為,但 144 天後仍未修復。
歐盟 AI 法案標示規定生效. 自 2026 年 8 月 2 日起,歐盟要求對 AI 生成的影像、影片、音訊與文字進行明確標示。該法規可能影響自主發布內容或建立媒體的代理。
明尼蘇達州「去衣」禁令挺過 xAI 法律挑戰. 一名聯邦法官拒絕了 xAI 試圖暫時阻止明尼蘇達州針對生成非自願色情影像應用程式的法律,並指出 xAI 等了三個月才提起訴訟。該法律在訴訟進行期間生效。
新模型與極致推論
Kimi K3 在單一 CPU 上緩慢運行. 兩位開發者獨立編寫了極簡 C 推論引擎,在沒有任何 GPU 的情況下,從磁碟運行 1.56 TB 的 MoE 模型 Kimi K3。其中一位使用 8 GB RAM 與 NVMe 串流,每 30 秒產生一個 token;另一位以 29 GB RAM 達到 0.5 t/s,所有專家皆按需讀取。
LongCat-Flash-Lite-Sparse 現已推出. 此新版本以 LongCat 稀疏注意力(LSA)取代密集注意力,並原生支援最多 100 萬 token 的上下文,使其適合長文件代理任務。
Laguna S 2.1 更新上下文與量化. Poolside 釋出了 Laguna S 2.1 的新 FP8 與 NVFP4 檢查點,將預設上下文大小提升至 100 萬 token,並希望能修復一個阻礙開發流程的迴圈問題。
這一天的內容就到這裡——大約 5 分鐘讀完。