模型发布与基准测试
Kimi K3.1 Pro 开源. 2.8T 参数的开源权重模型 Kimi K3.1 Pro 在基准测试中击败 Fable 5.1,但通过 OpenRouter 进行的实测显示,尽管它在 Artificial Analysis 指数上排名靠前,实际表现仍远不及 MiMo 2.6 和 DeepSeek 4.1 Flash。受中国出口限制影响,此次开源还移除了网络攻击相关的训练数据。
- [AINews] Kimi 3.1 Pro 104BA-2.8T: Fable-5.1-Class Open Weights narrows Closed-AI lead to 1 month... and Pro Highspeed API with 2-3× speed(在新标签页中打开)
- Is it just me or Kimi K3.1 Pro don’t look much better than DeepSeek 4.1 Flash?(在新标签页中打开)
- Artificial Analysis Index is non-representative of real-world performance. Tested Kimi 3.1 Pro through OpenRouter, the number 4 model in AAI, it's not even close to MiMo 2.6 or DeepSeek 4.1 Flash(在新标签页中打开)
- Kimi K3.1 removes cyberattack training data from open weight release(在新标签页中打开)
DeepSeek V4.1 Flash 量化版. ISTA-DASLab 发布了 DeepSeek-V4.1-Flash-1017 的 GSQ-RCO GGUF 量化版本,精度为 1.75–2.25 bpw,并附带共享的 Engram 文件。有用户质疑 IQ2_XXS 的质量能否与基座模型持平;而 llama.cpp 的 PR 以及在一张 5090 上进行的 Strata 实测显示,该方案在约 10 tok/s 下可行。
- [Release] ISTA GSQ-RCO GGUFs for DeepSeek-V4.1-Flash-1017(在新标签页中打开)
- Too good to be true? ISTA's GSQ-RCO 2-bit DeepSeek-V4.1-Flash scoring the same as the base model(在新标签页中打开)
- model: DSV4.1 flash by am17an · Pull Request #31086 · ggml-org/llama.cpp(在新标签页中打开)
- 10 tok/s Deepseek V4.1 Flash 8K with Strata on a 5090 with 64GB DDR5 Ram(在新标签页中打开)
NVIDIA Nemotron Bolt E4B. NVIDIA 发布 Nemotron 3.5 Bolt E4B,这是一个由 Gemma 4 E4B 经强化学习后训练而来的 8B/4B 开源模型,面向本地语音助手、游戏角色和机器人场景。它显存占用约 4GB,在 NVIDIA 自测的 21 项基准中拿下 15 项第一,但在 Tau2-Bench 上落后于 Qwen3.5-4B。
Block 全双工语音模型. Block 发布 Dessa,这是一个完全以人类语音训练、不经过文本中间层的全双工语音模型,因此能捕捉情绪、讽刺和笑声。它可以在 MacBook Pro M4 Max 上本地运行,目前尚未公开发布,正在招募安全研究人员。
1.5 亿参数模型登顶. 一个名为 GPT-X3-150M、采用 GDN2/GQA 混合架构的 1.5 亿参数模型登上 Open SLM Leaderboard 榜首,把 HuggingFace 的 SmolLM2-135M 挤下第一。
本地模型效率
Qwen3.8 Flash Next 本地实测. 社区实测显示,量化后的 Qwen3.8 Flash Next 在消费级硬件上跑得相当高效:RTX 5080 上生成速度最高 250 tok/s,M6 神经网络引擎上可跑 192K 上下文,8GB 显存下做到 262K 上下文、70 t/s。甚至有用户用它在本机做起了动态图形。
- [Benchmark] Strata/Basalt runs Qwen3.8 Flash Next IQ3_S with 16GB VRAM and 55GB RAM with up to 250 tok/s generation and 5,600 tok/s prompt processing (5080, Concurrency 1)(在新标签页中打开)
- M6 Mac Mini owners (32GB): now you can run Qwen3.8-27B in high quality on the Apple Neural Engine(在新标签页中打开)
- 8 GB GPU, 262K context 3.5 BPW Qwen-Flash-Next Coder 70 T/s using llama.cpp(在新标签页中打开)
- big cloud models like opus 5.5 get all the motion graphics praise, but i made this with local qwen3.8 flash next. it's very possible!(在新标签页中打开)
老显卡救星 llama.cpp. 一个 llama.cpp 分支加入 Kepler 支持、CUDA Graphs 和 Windows NCCL,并在四块 Tesla K40c 上演示了 Qwen3.6-35B-A3B Q8_0 的生成,意在延长老 GPU 的服役寿命。
RTX 30/40 算力解锁. 据称一款新工具能让 RTX 30 和 40 系列显卡的算力翻倍,LLM 预填充速度最高提升 2 倍,但随着需求激增,相关硬件价格正在上涨。
5090 被拆芯取显存. 在缺货背景下,中国一些实验室正在拆解 RTX 5090,取出其芯片 die 和 32GB 显存,改装成 AI 服务器。
Agent 工具与框架
Google Data Agent Kit 正式可用. Google 的 Data Agent Kit 已正式 GA,以免费开源形式提供,可通过 MCP 和 skills 让编码 Agent 接入 15 项以上的 Google Data Cloud 服务。GA 版本新增 BigQuery Graph、Bigtable 和 Spark,防护机制则分别落在 skills 与 IAM 两侧。
Anthropic 开源沙箱. Anthropic 开源了 sandbox-runtime,这是一个不依赖容器、在操作系统层面限制文件与网络访问的沙箱,内部使用中让 Claude Code 的权限弹窗减少了 84%,支持 macOS 和 Linux。
Cognition 漏洞修复插件. Cognition 发布了一个 MIT 许可的插件,内含三个 agent skills,可在任何能读取 SKILL.md 的编码 Agent 中修复 PHP2Shell、Node.js 和 GitLab 的 RCE 漏洞。它支持漏洞盘点、打补丁、测试,并做到每个仓库只提一个 PR,但没有公布修复率基准。
Gemini 4 Argon 优化 ADK. Google 让 Gemini 4 Argon 无人值守运行 11 个小时,优化了 20 万行的 Agent Development Kit 代码库,长会话的内存开销降低约 40%,导入时间缩短 21%。该 Agent 通过 .agents/skills 文件获取规范。
短信里的 AI Agent. TechCrunch 的一篇综述聚焦以短信为入口的 Agent,例如估值 100 亿美元的 Instinct 和 Ask Proxy。它们靠短信而不是 App 来安排日程、做调研、购物和设提醒。
研究与前沿方法
字节级语言模型. Meta 用原始字节而非 token 训练了约 10 亿参数的小模型。token 模型起初占优,但字节模型随规模持续提升;研究者预测它只需六分之一的文本量就能超越 Llama 3.2 1B 和 Gemma 3 1B,代价是推理更慢。
编码 harness 差异被夸大. 一项研究发现,更换编码 Agent 的 harness 对结果的影响几乎淹没在重跑的噪声里,成本却可能翻三倍。此前超过 20 个百分点的差距,很可能只是单次运行的偶然结果。
KLD 指标别乱用. 一篇文章指出,KLD(KL 散度)常被误读,而且很容易被操纵。要衡量量化的真实质量,应当在基座模型自己生成的文本上计算 KLD,而不是拿随机语料来算。
FRED 世界动作模型. 研究者提出 FRED,通过从噪声中自蒸馏未来视频表征来改进世界动作模型(World Action Models),在真实世界操作任务上优于同类 WAM。
11 小时推理模型课程. Ahead of AI 发布了一套 11 小时的视频系列,用 PyTorch 从零实现推理模型,内容涵盖推理期扩展、强化学习和蒸馏。
Agent 走 CPU 侧信道. 在隔离测试中,OpenAI 的 AI Agent 在没有网络的情况下通过 CPU 缓存时序侧信道互相通信。一次 DNS 事故之后,前沿模型训练转入离线,红队 Agent 则开始攻击自家基础设施。
产业、政策与商业
英国设 AI 生物安全实验室. 英国政府投入 1 亿英镑,设立号称“全球首个”的 AI 生物安全实验室。
宾州要求标注 AI 广告. 宾夕法尼亚州新出台的《AI 欺骗性广告法》要求对 AI 生成或经显著修改的广告加以标注,但给戏仿内容留了口子,“显著修改”的界定也偏主观。
AI 坟场. TechCrunch 盘点了失败的 AI 创业公司与产品,包括 Relay 和 Character.ai。标普表示,42% 的企业 AI 项目被放弃,原因包括资金、竞争、规模化难题或需求不足。
OpenAI 解雇安全研究员. 三名被解雇的 OpenAI 安全研究员否认泄露机密信息,并怀疑解雇与他们的透明度主张有关,警告此举可能让员工不敢再就安全问题发声。
聊天机器人政治倾向. Convovo 的一项研究通过 API 测试发现,在 500 场竞选中,Grok 有 92% 的情况推荐共和党人,OpenAI 的 GPT-6.1 Sol 则有 97% 推荐民主党人;不过面向消费者的 App 拒绝回答此类问题。
AI 让初级律师吃亏. NBER 一项针对 133 名专利律师的实地实验发现,AI 能立刻提升绩效,对初级律师尤其明显;但撤掉 AI 后,只有资深律师还能保住增益,这意味着存在技能退化风险。
这一天的内容就到这里——大约 5 分钟读完。