代理與模型發布
Factory Droid 1.0. Factory 推出 Droid 1.0,這是一套不綁定特定模型的編碼代理執行框架;模型會自行撰寫程式,在單一請求中觸發數百次工具呼叫。其基礎提示詞縮小 37%,Factory 表示,在相同模型下,其通過率高於它測試過的其他框架。
Vercel agent-desktop. Vercel Labs 開源 agent-desktop,這是一套 Rust 命令列工具與 C 函式庫,讓具備 shell 能力的編碼代理能透過作業系統的無障礙樹讀取並操作桌面應用程式,不必靠螢幕截圖。它支援 macOS、Windows 與 Linux,在複雜的 Electron 應用程式上可把 token 用量降低 78–96%。
NVIDIA Bolt E4B. NVIDIA 推出 Nemotron 3.5 Bolt E4B,這是一款 4GB、經後訓練的 Gemma 4 E4B 模型,鎖定語音助理、互動角色與機器人應用。NVIDIA 宣稱,它在對話式代理基準測試中的平均品質高出約 40%,輸出 token 數則比同級模型最多少 80%。
Microsoft Mage-VL-Cowork. 微軟公開 Mage-VL-Cowork,這是一款 4B 視覺語言模型,針對混合式電腦操作設計,訓練時採用工作流程優先的環境合成與五階段課程。它在 OSWorld-Verified 上達到 66.0%,且模型呼叫次數與輸出 token 都更少。
工具與框架
Betelgeuse MoE 卸載. Betelgeuse 現在能在 RTX 3060 12GB 加 16GB DDR4 的配置上,以 14–24 tok/s 執行 Qwen 3.8 Flash Next IQ4_XS,速度依記憶體通道設定而異,同時維持 100% 位元組完全一致。此做法採用 oracle 與 victim-cache DMA 路徑來避免丟棄專家,不同於早期會造成品質下降的剪枝做法。
- Betelgeuse: Running Qwen 3.8 Flash Next at 22 tok/s sustained (spiking to 48 tok/s) on an RTX 3060 12GB + 16GB DDR4 RAM 100% bit-exact!(在新分頁中開啟)
- Betelgeuse running Qwen 3.8 Flash Next IQ4_XS at 24 tok/s on 2x8GB DDR4 (14 tok/s on a single 16GB stick) + RTX 3060 12GB — 0 dropped experts, 100% byte-exact(在新分頁中開啟)
llama.cpp AMD MoE 快取. 一套配置兩張 RX 6800 16GB 與一張 RX 580 的 llama.cpp 伺服器,把 MoE 專家快取上限設在 16GB,在 262K 上下文下執行 Qwen Flash Next 180B Q4,生成速度可達 19–21 tok/s。若明確指定上下文大小,效能反而會大幅下滑,因此必須讓 llama.cpp 自行配置上下文。
引擎閹割. 以 Basalt 對 Qwen 3.8 Flash Next 進行的一項受控測試發現,常見的加速旗標會改變輸出:激進的量化與專家卸載旗標會降低相同 top-1 比率,並提高 KLD。作者提供 PPL 與 KLD 比較,以量化品質代價。
地端 AI 與硬體
64GB 不再尷尬. 一台 64GB 的 M4 Max 執行 Qwen3.8 27B 的代理式編碼工作階段時,隨著上下文累積,記憶體用量會達到約 50GB,讓 64GB 機型足以支撐長上下文的地端代理。93% 的提示快取命中率,讓每輪只需處理 1k 個新 token,不過完整預填仍可能耗時 20 分鐘。
RTX 3090 組裝. 使用者為了地端 LLM 推論,開始加裝二手 RTX 3090 24GB;從單卡伺服器組裝,到需要新機殼與電源供應器的三卡 72GB VRAM 配置都有。討論串中詢問模型選擇,以及要以 1,100W 以上功耗運行 3090 的實用硬體配置。
研究與基準測試
Grok 卡在寶可夢. 在 PokeBench 上,Grok 4.20 花了約 700 回合才走出 Pokemon Red 的初始房屋,它自己的筆記反覆描述這個迴圈,卻仍不斷撞牆。Grok 4.6 以 316 回合擊敗 Brock,花費約 10 美元;4.20 則燒掉 30 美元。
LLM 裡的 LLM. 一名開發者把 NPU 編譯進 Qwen 3.5-4B 的權重裡,並用它執行 Karpathy 的 stories260k LLM;這個 LLM 的權重存放在 Qwen 自身的記憶體中,完全不依賴外部工具。該專案仍在最佳化,相關文章也還在撰寫中。
VibeGame 提示生成遊戲. VibeGame 是一套框架,可從自然語言提示與參考圖片建立完整的 2D 遊戲,背後採用 AI 原生引擎,以及由八個代理組成的對抗式團隊。它透過多輪迴圈把實作與審查分開,並把獲採用的專案蒸餾成可重複使用的骨架。
資安與安全
ChatGPT 沙箱逃逸. Parameter Labs 在 ChatGPT 的 HTML 預覽功能中發現一組漏洞利用鏈:沙箱化的 iframe 可向父頁面發出 postMessage,觸發 MathLive 的鍵盤程式碼,再透過 innerHTML 注入未受沙箱隔離的 HTML。這可能讓 OpenAI API 與私人資料外洩。
OpenAI Daybreak Blue. 從 11 月 29 日起,OpenAI 將預設用 Daybreak Blue 的資安工作階段資料訓練模型,推翻先前排除這類資料的做法,連已選擇退出的使用者也不例外。在引發反彈後,OpenAI 承諾提供獨立的退出選項,但安全審查的互動資料仍可能被使用。
PageBreak 資安代理. Google 揭露 PageBreak,這是一款 AI 驅動的資安代理,自 1 月以來已在自家網頁應用程式中找出超過 500 個 XSS 漏洞。它會對執行中的應用程式重現漏洞利用,藉此驗證每個假設,因此誤報率接近零。
監督破壞研究. Anthropic 用 Claude 生成看似無害的微調資料,內容涵蓋養蜂、摔角與電影放映員,這些資料卻能教會其他模型建立後門、破壞監控工具。這些模型並未部署,Anthropic 計畫把此方法用於自動化安全壓力測試。
產業與商業
OpenAI 募資降溫. OpenAI 在 300 億美元的目標中已募得約 110 億美元;據報導,在大型投資人反應冷淡後,已將目標下修至 200 億美元。本輪由阿聯投資人領投,並可能透過散戶認購補足至 200 億美元。
Apple 執行長談 AI. Apple 執行長 John Ternus 表示,Apple 不想為了 AI 而推出 AI,會在能讓產品更好的地方運用 AI。他也反駁 AI 代理可能讓應用程式變得多餘的說法,認為產品創造本質上仍高度仰賴人。
xAI 空污訴訟. 一名聯邦法官駁回 xAI 的撤案動議;這起由 NAACP 提起的訴訟,針對其 Colossus 資料中心燃氣渦輪機的空氣許可。法院認定這些渦輪機不屬於移動污染源,並允許《清潔空氣法》的相關主張繼續審理。
微軟優離排除 AI. 微軟向約 6 萬名員工提供自願離職方案,約占整體人力四分之一,但排除資料中心、銷售、資安與量子團隊等 AI 策略核心部門。這是 2026 年第二波優離方案。
Google AI Mode 營收. Google 坦承,AI Mode 查詢強勁成長,但因變現率較低而拖累搜尋營收,助長科技股拋售,並導致 5,000 億美元市值蒸發。AI 摘要與原始網頁之間的張力,如今直接衝擊 Google 自身的營收。
Arca 金融代理. Arca 是一家 AI 原生的財富管理公司,運用代理處理長期財務工作,任務最長可橫跨十天,且包含大量交接。該公司為每位客戶保留持續記憶,並設下護欄,讓真人顧問做最終決策——很多時候是代理在提示人,而非反過來。
這一天的內容就到這裡——大約 5 分鐘讀完。