模型發布
Mercury 3 擴散 LLM. Inception 發布 Mercury 3,這是一款擴散語言模型,能平行生成回應,具 100 萬 token 上下文,每秒可達 1,068 個 token。這款僅提供 API 的模型在 12 項基準測試中有 8 項領先 GPT-6 Luna 與 Claude Haiku 5.5。
MiniMax M3.1 Flash. MiniMax 推出 M3.1 Flash,這是 428B 參數的 MoE,約 23B 活躍參數、100 萬 token 上下文,每百萬輸入 token 定價 0.15 美元。它鎖定 agentic 辦公與程式開發,並承諾 10 月 23 日釋出權重。
Nvidia Nemotron 與 Bolt. Nvidia 發布 Nemotron 3.5 Super VL,這是 120B 的開放權重模型,鎖定企業 agent;另推出兩款輕量 Bolt 模型,針對 AI PC 與 DGX Spark 工作站。這些模型意在涵蓋邊緣與企業層級的常時運作 agent 工作流程。
Ming 音訊模型. InclusionAI 發布 Ming-3.0-audio-flash 與 Ming-3.0-audio-tiny;前者是 126B 的 MoE,具 6.5B 活躍參數,後者為 9.3B/2.7B 模型,兩者皆採 MIT 授權。它們可接收音訊與文字,支援語音辨識、口語問答與長錄音理解。
Drex Max 決策模型. Nace AI 發布 Drex Max,這是給 computer-use agent 使用的多模態決策模型,可讀取文字與圖像,回傳校準後的機率,但不生成文字。它在 Decision Index 0.3.2 拿下 67.59 分,且僅提供託管 API。
工具與框架
TorchNeuron 助攻 Trainium. AWS 發布 TorchNeuron,讓 PyTorch 應用只要改一行設定,就能在 Amazon Trainium 晶片上執行。此舉劍指 Nvidia 因軟體優勢而長期穩坐 AI 硬體預設選項的地位。
llama.cpp 支援 Cohere. Cohere 把 North Micro Vision Instruct 視覺編碼器的 llama.cpp 支援合併進主線,讓旗下最新架構全數相容於 llama.cpp。Cohere Transcribe 現在也能在 Unsloth 中使用。
Berth GPU 管理器. Berth 是一套系統服務,會監看 GPU 並切換 LLM 引擎,避免 VRAM 衝突與手動切換。它能以 API 形式提供引擎,並可在多個共用同一張 GPU 的裝置上運作。
VoiceManager 與 HermesConsole. VoiceManager 是低延遲的串流 STT/TTS 伺服器,可透過 WebSocket 在本機執行,支援喚醒詞、插話與輪流對話。HermesConsole 則是示範客戶端,展示如何替 agent 加上語音。
Volundr 262K 上下文. Blockway 為 32B 的 Volundr 模型打造自訂推論引擎 Agens Engine,在 72 層中的 54 層以固定大小狀態取代不斷膨脹的 KV cache,讓長時間 agent 工作階段能控制在 16GB 的 GPU 記憶體上限內。
安全與 Agent 風險
Microsoft Guardian Agents. Microsoft 推出 Guardian Agents,把企業內的 AI agent 當成內部威脅來監控,並擴編 Project Perception 的紅隊、藍隊與綠隊。執行長 Satya Nadella 曾警告,部署後的 agent 可能像脫序員工一樣行事。
OpenCode API 金鑰外洩. 駭客入侵 OpenCode 的一套較舊系統,影響 1.4% 的 OpenCode Console 使用者,API 金鑰可能因此外洩。該公司將這起事件定調為大規模蒸餾攻擊。
AI agent 大軍入侵. 一名駭客透過開源平台 Cairn 調度一支 AI agent 大軍,入侵超過 100 個網站,包括 John Deere、SharkNinja 與 Cummins,過程中幾乎沒有人為介入。
Laplace 實體 AI 紅隊. Laplace Intelligence 正在打造針對機器人與自駕車的自動化紅隊演練,目標是在實體 AI 部署前進行壓力測試,並為保險公司與監管機關提供佐證。
商業與算力
Anthropic-Nscale 算力洽談. 據報導,Anthropic 與 Nscale 正在洽談第二筆 450 億美元的算力交易,距離雙方宣布第一筆交易才過了一個多月。在投資人擔憂 AI 算力支出之際,兩家公司都在推動 IPO。
Neocloud 洗牌. CoreWeave 的債券跌入不良債區間,業界高層預期幾年後只有 7 到 10 家 neocloud 能存活。Nvidia 的曝險不小,其資料中心營收有 45% 來自大型科技公司以外的客戶。
Tenstorrent 募 15 億美元. Tenstorrent 回絕收購意願後,以 62 億美元估值募得 15 億美元,用來擴大開放權重 AI 晶片布局。公司將聚焦推論晶片,鎖定開放模型服務與影片生成。
Disney-Character.AI 交易. Character.AI 聲請破產,作為一項交易的一環:Disney 可延攬其多數員工、可能取得技術,並避開這家新創的法律責任。這樣的結構讓留下的實體負責處理訴訟。
Stripe agent 支付. Stripe 表示,使用其 Link 支付服務的 AI agent 在 9 月讓交易量擴增 38 倍,但不願公布絕對數字。目前約有 200 個 agent 使用 Link,包括 Meta 的 Muse 與 Grok Bot,用途以零售與旅遊為主。
政策與社會
紐約市長反擊. 紐約市長 Zohran Mamdani 呼籲市民不要接受 AI 勢不可擋的觀念,並批評聯邦政府在監管上毫無作為。他最近禁止小學與國中使用 AI,並希望各城市能追究 AI 公司的責任。
Agent 網頁兩難. 隨著 OpenAI 與 Meta 的個人 AI agent 規模擴大,許多網站開始封鎖它們;而為 agent 重新設計網際網路,可能讓一般人的使用體驗更糟。agentic web 流量從 8 月到 9 月成長到原來的三倍。
基準測試信任落差. Hugging Face 政策主管表示,模型評估仍是一門發展中的科學,可重現性取決於能否取得權重。一項針對 1,629 項已發表結果的獨立分析發現,AI 實驗室回報的分數平均比獨立測試者高 6.4%。
民主黨擬監督 AI. 若民主黨奪回國會,委員會高層已釋出訊號,將針對資料中心稅收抵免與駭客事件嚴格檢視 AI 公司,並可能傳喚執行長作證。AI 在期中選舉競選廣告中的角色也日益吃重。
研究與可解釋性
可解釋性新主張. Goodfire 研究員 Nick Cammarata 在一篇 2.6 萬字的文章中主張,LLM 可能比先前認為的更容易理解、監控與控制。若此說成立,將有助回應業界急需治理 agent 行為的問題。
老語言程式開發. OpenAI 宣布,針對 COBOL、Fortran 與 Visual Basic 的軟體建置與遷移能力已更上層樓;這些語言支撐關鍵基礎設施,但訓練資料較少。此舉鎖定企業維護與現代化需求。
熵值觸發思考. 一項本地 LLM 實驗利用詞彙層級熵值與類似 Jev 的閘控機制,只在模型不確定時觸發 thinking 區塊,並以平行對話樹選出最佳路徑。此做法旨在減少不必要的推理 token。
EmbeddingGemma 2. Google 發布 EmbeddingGemma 2,這是精簡的 Apache-2.0 多模態 embedding 模型,可將文字、程式碼、圖像、影片與音訊表徵於統一的 768 維空間,供裝置端檢索與 RAG 使用。
這一天的內容就到這裡——大約 5 分鐘讀完。