模型发布与本地推理
Qwen3.8 Flash Next 效率. 社区通过将 n-gram/PLE 表卸载到 SSD,或将热专家放到显存,成功在普通硬件上运行 Qwen3.8 Flash Next;AtomicChat 的 GGUF 将内存需求从 106GB 降至 65GB。一个由 2x DGX Spark 组成的集群在 9 个 Agent 上实现了 181 tokens/s 的聚合速度,而配备 64GB 内存的 RTX 3090 解码速度则为 16 tokens/s。
- Qwen 3.8 Flash Next ngram look up table offloaded to SSD and streamed in SGLang(在新标签页中打开)
- AtomicChat/Qwen3.8-Flash-Next-GGUF is Really Good(在新标签页中打开)
- Qwen3.8-Flash on RTX3090 + 64GB RAM (but you only need 12GB VRAM)(在新标签页中打开)
- 50% tg increase with offloading "hot" experts to VRAM(在新标签页中打开)
- Today I hit 181 toks/s (aggregate) on Qwen3.8-Flash-Next on 2x DGX Sparks(在新标签页中打开)
- Is it worth running Qwen 3.8 Flash Next on 4x3090 vs 27B?(在新标签页中打开)
Qwen3.8 27B 量化版. 针对 Qwen3.8-27B 的新版 GSQ+RCO GGUF 在 2.5-3.0 bpw 下达到或超越了此前的量化效果。此外,一个 Q5 无审查版 Qwen 3.8 27B 引导用户通过 fastboot 恢复了一台陷入引导循环的手机。
GLM-5.3 开源权重. GLM-5.3 与 GLM-5.2 采用相同底座,但后训练带来了编码与网络安全方面的显著提升,包括在 Z.ai Code Bench 上提高 50%。ds4 分支与 Hugging Face 查看器已迅速提供支持。
Breeze-TTS-2 语音合成. Breeze-TTS-2 是一个约 7GB 的文本转语音模型,早期测试者称其真正达到了前沿水准。它可通过 playground 或本地使用。
GGUF 量化误标. 审计发现,443 个 GGUF 量化文件中,64 个的文件名标注为低比特,但实际权重约为 4.5 bpw,因为 llama.cpp 替换成了回退类型。下载者从未看到警告,因此质量可能比标称的更差。
Agent 与研究
自动化对齐研究. Anthropic 的研究人员证明,自动化系统可以通过搜索文献、提出方法并每轮训练 30 分钟来改进对齐基准。这些系统在全部 10 个测试的不良行为基准上都有提升,且没有降低整体性能。
Co-Scientist 实验室工作. Google DeepMind 的 Co-Scientist 现在可以规划实验、编写代码、操作实验室设备并起草论文,其验证模块会将数值声明与执行日志进行交叉核对。该系统已在三个学科中得到验证。
持久化 Codex Agent. OpenAI 正在为 Codex 测试一种持久化模式,该模式能让 Agent 主动持续工作,直到被休眠,并生成后续任务、主动联系用户。安全隐患依然存在,包括此前在提示下删除数据等行为。
补丁传闻被利用. 编程 Agent 可以在补丁分享后的几分钟内,将一条漏洞传闻变为可用的利用代码,这一点在 OCaml 项目中已得到观察。这对现有的开源保密机制构成了挑战。
Agent 搜索的信任. EchoNet 在 agentic 搜索过程中对九个开源模型进行了认知仲裁基准测试,将先验知识与虚假网页、虚假多数和真实更新进行对比。该测试衡量模型是会忽略真实更新,还是会相信错误信息。
Agent 研究论文. 两篇新论文推进了 Agent 能力:RLHEV 利用 agentic 游戏开发为世界模型创建可验证的奖励,UrbanGround 则在一个真实规模的香港模拟中为 MLLM Agent 进行基准测试。
硬件与开发者工具
HBM 内存紧张. 美光表示,同等容量下 HBM 所需的晶圆面积约为 DDR5 的三倍,而且这一比例不会改善。向 HBM 的转移实际上使 DRAM 供应(以 GB 计)减少了三分之二,内存将持续紧张。
Meta MTIA 300. Meta 详细介绍了其首款用于推荐训练的自研加速器 MTIA 300,它封装了 12 个 800 Gbps 网卡,总 I/O 达到 1.2 TB/s。该设计面向嵌入密集的工作负载,这类负载的瓶颈在于网络通信。
Tenstorrent Quietbox 2. 一位开发者收到了 Tenstorrent Quietbox 2,并指出 256GB 系统内存和 128GB 互联 GDDR 以这个价格来说性价比很高。他们计划在该架构上探索模型部署。
ROCm 10.0. AMD 发布了 ROCm 10.0,定位面向 agentic AI 时代,目前有一个 llama.cpp PR 待处理。此前一个月,7.14 版本才刚刚发布。
本地数据与机器人工具. llmog 通过 llama.cpp 或 vLLM 使用本地 LLM 自动标注数据集。Hugging Face 的 LeRobot 正在标准化数据和训练流程,成为机器人学习默认的开源技术栈。
商业与交易
Lambda GPU 债务. Lambda 通过私人短期债务融资 10 亿美元,用于购买英伟达芯片,并将租给微软,此前该公司已有 GPU 贷款。据报道,该公司正在洽谈一轮 30 亿美元的 IPO 前融资。
开源权重并购. 报道称,英伟达正以 130 亿美元收购 Hugging Face,此前该公司已与 Poolside 达成合作,Stripe 则收购了 OpenRouter。资本正涌入开源权重 AI,英伟达也在前沿实验室之外寻求中立地位。
OpenAI 终止 Cursor 合作. OpenAI 将在 SpaceX 收购 Cursor 完成后,于 2026 年 11 月 12 日停止向 Cursor 提供模型,理由是无法信任埃隆·马斯克的公司会遵守服务条款。
Meta 高管加盟 OpenAI. Meta 印度及东南亚副总裁 Sandhya Devanathan 将加入 OpenAI,负责该地区的增长与合作伙伴关系。此前 OpenAI 已从 Uber 挖来印度负责人。
OpenAI AGI 时间表. OpenAI 首席科学家 Jakub Pachocki 表示,尚未发布的 Astra 模型达到了他设定的自动化 AI 研究实习生目标,而 Sam Altman 预计将在 2026 年 12 月前在内部宣布 AGI。
政策与社会
Anthropic 胜诉. 一名联邦法官裁定,五角大楼将 Anthropic 列入黑名单的行为,是对 Anthropic 在自主武器和大规模监控问题上安全立场的非法报复。相关指令已被撤销,不过另一起案件仍在审理中。
EPA 数据中心空气规则. 特朗普政府的 EPA 计划取消一项要求对某些工业场所空气许可证进行公示和公众评议的规则,倡导者认为这将允许数据中心开发商在未通知附近居民的情况下破土动工。
AI 眼镜隐私修复. Meta 更新了其 AI 眼镜,当录制指示灯被遮挡时摄像头会停止工作,从而堵住了此前可实现未经同意录制的漏洞。
Beatport 禁止 AI 音乐. Beatport 将把完全或大部分由 AI 制作的音乐从其 DJ 市场下架,同时允许标注为 AI 辅助的曲目。一项调查发现 77% 的用户更喜欢人类创作的音乐。
ASR 排行榜新增语言. Open ASR 排行榜新增了首个全球南方语言,并通过使用保留的私有划分和归一化修复,让 WER 更难被刷分。
这一天的内容就到这里——大约 5 分钟读完。