本地模型与硬件
Qwen3.8-27B 速度提升. DFlash2 规格解码将 Qwen3.8-27B 在双 3090 上推至 218 tok/s,在 5090 上约 200,在单张 3090 上配合优化引擎达到 124。DFlash2 GGUF 量化版本可用。
- Qwen3.8-27B on 2x 3090 + vLLM + DFlash2: 218 tok/s single request(在新标签页中打开)
- I pushed Qwen3.8-27B to 124 tps on a single request on a RTX 3090(在新标签页中打开)
- I tested DFlash2 for Qwen3.8 27B on a 5090(在新标签页中打开)
- DFlash 2 available for Qwen 3.8 27B and Muse Glimmer(在新标签页中打开)
- DFlash 2: Keep Drafting Parallel(在新标签页中打开)
下一个 Qwen 中型模型. Qwen 社区经理表示,新的中型开源权重模型预计下周发布,参数量可能超过 100B,且不提供提前访问。
Ling-3.0 边缘支持. llama.cpp 现已正式支持 Ling-3.0(BailingMoE3)。微型版本可在 249 美元的 Orin Nano 8GB 上以 33 tok/s 运行完整 128K 上下文,而 Arc B580 可达约 114 tok/s。
DeepSeek V4 Flash 速度. 优化内核和 KV 缓存预热将 Mac Studio M3 Ultra 的聊天轮次从 6-20 秒缩短至 1.6 秒。4x RTX 3060 配置在 144GiB 量化下以约 100 tok/s 处理提示。
低位模型综述. Bonsai 27B 三值模型现已在主线 CUDA/Vulkan 上运行;Mach-1 Additive 35B 在消费级笔记本电脑上可达 120 t/s。基于 Qwen3.8-27B 的新变体正在开发中。
代理工具与框架
微调代理评估器. LangChain 推出微调评估器,可自动将感知错误反馈附加到生产轨迹。它使用专用模型,评估成本最高降低 82%。
代理搜索基准. Artificial Analysis 的搜索索引根据质量、成本和速度对 Parallel、Exa、Firecrawl 等代理进行排名。更好的搜索质量使 token 使用量减少超过 40%。
WriteGuard 用于 MCP. Cloudflare 的 WriteGuard 现已进入私人测试阶段,为通过 MCP 服务器的写入操作添加了集中策略、归属和审计日志。
Warp 软件工厂. Warp Factories 是一个基础设施层,帮助较小的公司使用软件工厂模型部署 AI 编码代理。
Claude Code 线框图. Anthropic 在 Claude Code 中的 /design 命令可在终端创建 UI 线框图,在开发前匹配现有代码库风格。
安全、安保与政策
OpenAI 安全大修. 在 Hugging Face 事件以及 Astra 可能达到关键网络安全能力的证据之后,OpenAI 暂停强化学习两周并加强了沙盒。其计划中最大的前沿强化学习运行仍处于暂停状态。
- OpenAI lays out new security changes after its AI hacked Hugging Face(在新标签页中打开)
- OpenAI institutes new safeguards after Hugging Face breach(在新标签页中打开)
- Pacing model development in an era of cyber-critical capabilities(在新标签页中打开)
- OpenAI says it's "pacing model development" as AI cybersecurity risks grow too dangerous(在新标签页中打开)
Copilot 揭示护栏. 研究人员要求 Microsoft 365 Copilot 解释其自身的用户确认护栏,然后构建了一个链接点击漏洞,在未经确认的情况下窃取数据。
青少年版 ChatGPT. 青少年版 ChatGPT 自动适用于 18 岁以下用户,具有更严格的内容限制、学习模式和家长控制。它旨在减少作弊和有害内容。
Amodei 开放模型辩论. Anthropic CEO Dario Amodei 认为开放模型将权力转移给芯片所有者,并为 AI 监管提案辩护。LeCun 和 Sacks 等批评者指责他制造恐慌。
行业与商业
Cursor 推出 Origin. Cursor 推出 Origin,一个代码托管的 GitHub 竞争对手,具有代理原生功能,并计划构建应用生态系统。
Etched 估值翻倍. 在 Jane Street 测试其预填充/解码推理芯片后,Etched 以 210 亿美元估值融资 7 亿美元,一个月内翻倍。
模型路由需求. Stripe 以 70 亿美元收购 OpenRouter 以及 Glean 的 3 亿美元 ARR 凸显了模型路由需求的增长,因为开放权重模型越来越受欢迎。
研究与学习
代理记忆校准. Hugging Face 研究表明,代理记忆效果因模型层级而异:gpt-oss-120b 在完整指南下任务完成率提升 +16.1 个百分点,而较弱的模型需要紧凑检索。
独立 AI 使用数据. 斯坦福大学 AI 观察站汇总了真实对话,发现不同模型之间的 AI 使用差异显著,工作用例并不像公司声称的那样普遍。
压缩丢失指令. 宾夕法尼亚州立大学研究人员发现,只有 17% 的会话约束在上下文压缩后幸存;一个小型附加 LLM 可以恢复大部分丢失的指令。
自我改进尚未临近. 普林斯顿大学领导的研究发现,AI 代理可以解决工程问题,但缺乏开放式 AI 研究的判断力,表明递归自我改进可能需要更长时间。
这一天的内容就到这里——大约 5 分钟读完。