模型發布與評測
Granite 4.2 推理. IBM 以 Apache 2.0 授權釋出 Granite 4.2,提供 3B、8B 與 30B 三種規模。這些模型具備思維鏈思考模式、512K 上下文、原生工具呼叫,並以代理式強化學習進行後訓練。
Thomson Reuters 法律模型. Thomson Reuters 釋出 Thomson-1.0-Small,這是一款專注於法律與稅務的模型。
Qwen3.8 NVFP4 量化. 一個完全量化的 NVFP4 Qwen3.8-27B checkpoint,透過 QUASAR 進行量化感知蒸餾,即使所有線性層都量化後,仍能維持接近 BF16 的效能。
Muse Glimmer 評測. 在一個隱性知識評測中,Muse Glimmer 贏過 Qwen3.8 medium,且只花 3 到 4 小時;相較之下 Qwen xhigh 需要 30 小時。這顯示加上 RAG 後,Muse Glimmer 可望逼近前沿模型。
Qwen3.8-Flash-Next 本機部署. 即將推出的 Qwen3.8-Flash-Next 是多模態 MoE 模型,總參數約 125B、活躍參數約 6B,另外還有一個 51B 的 n-gram 表。4-bit 量化後約 82 GB 即可容納,出乎意料地適合本機部署。
硬體與推論
AMD MI350X kernel. NetraRuntime 開源了一個 kernel,能在 8 張 MI350X GPU 上以每秒 78,498 個輸出 token 執行 Qwen3.6-35B-A3B,吞吐量約為 vLLM 的 2.16 倍。
OpenAI Jalapeño 晶片. OpenAI 首款自製推論晶片 Jalapeño,據稱在 SemiAnalysis 的基準測試中,每瓦吞吐量與延遲都勝過 Nvidia Blackwell 和 Rubin。它在 GPT-OSS 120B 上可達到每位使用者每秒 1,400 個 token。
DFlash2 加速. 在 RTX 4080 16GB 上,使用 DFlash2 推測解碼設定,可將 Qwen3.8-27B 從每秒 50.6 個 token 加速到 86.7 個 token,輸出品質完全相同。
Mac Studio 選擇. Mac Studio M5 Ultra 96GB 的記憶體頻寬是 M5 Max 128GB 的兩倍,價錢約貴 740 歐元;但成本分析顯示,對多數本機推論需求來說,較便宜的 24-32GB 顯示卡可能更划算。
16GB 程式碼實測. 一個高度量化的 Qwen3.8-27B 在 16GB Quadro 上執行,從零正確實作了多層轉移矩陣法;不過在 100 分鐘的執行過程中,把大半時間花在除錯自己寫的驗證器上。
Agent 與框架
LangChain Agent 工具. LangChain 新增了 RubricMiddleware,讓 agent 能自我評估;deepagents-CLI 加入 skills 支援;同時也記錄了堆疊 agent 迴圈的 loop engineering 模式。
LangSmith Engine 2x. LangSmith Engine 在內部基準測試中,辨識重要 agent 問題的能力提升到兩倍以上,撰寫修正的能力也提升了 25%。
Claude Cowork 記憶. Anthropic 統一了 Claude chat 與 Claude Cowork 之間的記憶,因此 Cowork 現在會記住來自 chat 的內容,使用者也可以檢視、編輯或刪除已保留的資訊。
Plan-and-Execute Agent. LangChain 推出了 Plan-and-Execute agent executor,會先規劃多步驟任務再執行,以更多 LLM 呼叫換取更佳的長程規劃能力。
產業與商業
印度語音 AI. Ringg 正在為印度企業打造語音 AI agent,並從 Peak XV 募得 1,000 萬美元。該公司目前每月處理 2,000 萬通電話,客戶包括 Flipkart 和 Cred。
機器人新創 Generalist 估值 30 億美元. 機器人新創 Generalist 在完成 Series B 追加募資(總額達 6 億美元)後,估值來到 30 億美元。其 Gen 1.5 模型可讓機器人從短短 3 到 12 秒的影片示範中學習任務。
Stability AI 募資. Stability AI 完成 7,600 萬美元的 Series B 募資,投資人包括 Universal Music、Sony Music、Warner Music 和 EA,使其總募資金額達到 2.32 億美元,以發展創意 AI 工具。
Google 法律 AI. Google 推出 Gemini Enterprise for Legal,透過 MCP 連接器整合 iManage、NetDocuments、Harvey 等系統,用於合約審閱、法律研究與法規追蹤。
Lyft 與 Klarna 的 Agent. Lyft 用 LangGraph 和 LangSmith 打造了自助式多 agent 客戶支援平台;Klarna 的 LangGraph assistant 則能處理相當於 700 名全職員工的工作量。
安全與政策
俄羅斯 ChatGPT 影響力行動. OpenAI 瓦解了一項俄羅斯祕密影響力行動;該行動利用 ChatGPT 生成親克里姆林宮內容與假文章,並散布到 X、LinkedIn、Facebook、Substack 和 Telegram。
EU AI Act 合規. LangChain 發布了一份指南,說明如何利用 LangSmith 和 LangChain OSS 滿足 EU AI Act 對高風險系統的要求,例如日誌(logging)、監控與人工監督。
這一天的內容就到這裡——大約 5 分鐘讀完。