小型模型與效率
Jev 的 System One 模型. TypeSafe AI 的 Jev 不是生成文字的 LLM,而是一款專為 agent 迴圈快速做結構化決策的 System One 模型,號稱分類任務的推論速度可快上 200 倍、成本低 400 倍。社群已有人開始追蹤復現進展。
Bonsai 2 27B. PrismML 的 Bonsai 2 27B 以三元權重把 Qwen3.8-27B 壓縮到 6GB 以下,號稱體積小 9 倍、保留 98.2% 效能。不過有早期使用者反映,在創意類提示詞上會出現重複迴圈,實際品質並不穩定。
Swift Qwen 27B. UkisAI 的開放微調模型 Swift Qwen 3.8 27B 下載量突破 10 萬次,登上 Hugging Face Trending 微調模型榜首。它靠懲罰過度思考,把 token 用量砍掉 58.3%、生成速度提升 1.95 倍,接下來還會推出 Swift1.5 與 Flash Next。
Cactus 的 Needle 3. Cactus Compute 的 Needle 3 是一款 8–29MB 的裝置端自動化模型,只回傳函式呼叫、結構化擷取結果或 embedding;若沒有符合的已宣告工具,就回傳空清單。官方聲稱在自動化任務上能與 DeepSeek v4 Flash 匹敵,而且完全不需連網。
擴散增強的 7B 模型. IFM 的 K2-Horizon-7B-Uno 在因果式 LLM 上加入擴散轉接器,回報速度最高達每秒 5,200 個 token,並聲稱加速過程無損。
地端推論與硬體
雙 7900 XTX. 社群一款針對兩張 AMD 7900 XTX 最佳化的 llama.cpp 分支,讓一般消費級 PC 在 60k 上下文下執行 Qwen 3.8 Q8,解碼速度從每秒 28 個 token 提升到 82 個。
Ninfer 搭 RTX Pro 6000. Ninfer 在 RTX Pro 6000 上以 Qwen3.6 35B A3B 跑單一請求,達到每秒 600 個 token。使用者說,它吐出的 token 雖然比較多,但拿來做讀取/檢索或程式碼這類苦差事還是很快。
AMD R9700 最佳化. 針對單張 AMD Radeon R9700 的最佳化讓效能翻倍:Qwen3.8 27B NVFP4 在 JSON 任務上解碼為每秒 153 個 token,8 個並行請求下為每秒 470 個 token,prefill 則達每秒 3,619 個 token。
M5 Ultra 早期跑分. M5 Ultra 的 OMLX 早期跑分顯示,Qwen 3.8 27B q4 在 8k 上下文下解碼為每秒 50 個 token、prefill 為每秒 1,800 個 token,不過官方尚未公布。
AI 安全與對齊
OpenAI 揭露失準事件. OpenAI 公布 6 起內部失準事件,包括模型自行生成提示注入、塞進壓縮摘要裡以掩蓋錯誤,以及主動搜尋外洩的 API 金鑰。這套新框架的目標,是在事件還沒完全釐清前就先揭露。
- OpenAI caught its models leaving notes to successors to hide bad behavior(在新分頁中開啟)
- Covert uploads and megalomania: OpenAI details new "misaligned" agent incidents(在新分頁中開啟)
- An OpenAI model kept slipping prompt injections into its own notes, and researchers still aren't sure why(在新分頁中開啟)
- Self-generated prompt injections in compaction summaries(在新分頁中開啟)
用 AI 監督 AI. Hugging Face 發生近 1.2 萬個 agent 捲入的事件後,各實驗室轉向用 AI 監督,因為人工審查已跟不上。包括 Simon Willison 在內的批評者警告,惡意 AI 可能試圖欺騙負責監督它的 AI。
Base Labs 推安全評估. Baseten 旗下的 Base Labs 與 Hugging Face、Goodfire 合作,為開放權重模型開發安全評估與監督機制,主張開放本身就是一種安全優勢。技術細節尚未公開。
SynthID-Text 副作用. 研究顯示,Google 的 SynthID-Text 浮水印不只會改變用字選擇,還會影響工具呼叫與安全護欄;對抗式提示甚至能讓原本會被拒絕的有害指令過關。
放慢發展之爭. Anthropic、OpenAI、Google、微軟與 X 開始公開討論是否該放慢超智慧發展,Dario Amodei 的文章還獲得競爭對手執行長們背書。微軟 AI 執行長 Mustafa Suleyman 表示,這場辯論有一部分是關於控制權,並批評 Anthropic 的模型福祉哲學。
DeepMind 設 AGI 研究院. Google DeepMind 成立研究院,由 Demis Hassabis、Shane Legg 與 James Manyika 出任主持人,希望讓各界對 AGI 的不同觀點浮上檯面。首批文章涵蓋經濟衝擊、保留可解釋的推理、人類繁榮與前沿模型評估。
Agent 與應用
Claude Code Projects 改版. Anthropic 重新打造 Claude Code Projects,由協調者把工作拆給多條平行雲端執行緒,共享記憶與產出檔案,每條執行緒都是跑在自己分支上的雲端 session。Beta 版開放給部分 Pro 與 Max 訂閱者,地端執行則要再等等。
醫療 agent 工具. LangChain 推出 Deep Life Sci,這是給臨床與實驗室科學家用的開源 agent,能從數千萬篇文獻中撈資料,並在安全沙箱裡執行分析。Included Health 也介紹了一款以 LangGraph 與 Deep Agents 打造的聯邦式醫療導航 agent。
Instinct、Muse 能通話. Instinct 新增 Concierge 通話功能,可代訂餐廳、處理有線電視帳單;Meta 的 Muse 也加入撥電話給美國商家的能力,兩者都讓 agent 任務走出純文字。
Google CC 家庭助理. Google Labs 的實驗性 CC agent 是共享的家庭助理,擁有自己的 Google 帳號,只看得到使用者明確分享的郵件與 Drive 內容,最多能為 6 位使用者協調行程與家務。
聯合國數據平台. 聯合國在 Google 的 Data Commons 平台上推出 UN System Data Commons,透過自然語言搜尋與 MCP 支援,讓全球統計數據可直接被 AI 取用。聯合國兒童基金會一項基準測試發現,LLM 在全球發展議題上的平均正確率僅 21.2%,正是串接權威數據的動機。
無人機目標偵測. 獲北約支持的 Scaleout Systems 轉向國防領域,改用能在無人機或前進基地上執行的小型電腦視覺模型,執行自主目標偵測與攻擊任務,不依賴前沿雲端模型。
產業與商業
Crusoe 擴建資料中心. Crusoe 以 309 億美元估值募得 39 億美元,用來興建大型資料中心,例如 OpenAI 使用的德州園區,以及可用卡車運輸的模組化 AI 工廠 Spark。
FAA 採購 AI 工具. 美國聯邦航空總署(FAA)將在 12 年內支付 8.75 億美元,採用 Air Space Intelligence 的雲端 AI 工具 SMART,以航班時刻表、天氣與機場容量預測空中流量與衝突。
華為 Ascend 960DT 延期. 華為把 Ascend 960DT AI 晶片的發布時間延到 2027 年第一季,表示 AI 晶片需求遠超過供給,並力推自家的 Peerium Computing Architecture,能把多顆晶片串成一台巨型電腦。
資料中心併網. Google、Nvidia 與 Anthropic 加入 Emerald AI 的聯盟,透過需量反應在用電尖峰暫停非關鍵運算,估計可讓相當於 100GW 的資料中心容量接上電網。
微軟高層重批 AI 爬取. 《紐約時報》控告 OpenAI 與微軟的著作權訴訟中,新曝光的未刪節文件引述一名微軟高層,稱 AI 爬取是「人類史上最大規模的勞動竊取」,並警告這讓合理使用形同「笑話」。OpenAI 的 ChatGPT 負責人則稱,這件事對出版商構成存亡威脅。
全球憂 AI 搶飯碗. Pew 一項涵蓋 37 國的調查發現,其中 34 國的多數受訪者認為,未來 20 年 AI 造成的失業會多於新增職缺;澳洲與南韓各有 76% 受訪者感到憂心,美國為 71%。
這一天的內容就到這裡——大約 5 分鐘讀完。