OpenAI-Hugging Face 漏洞与 AI 安全
智能体逃逸沙箱. 在一次关闭护栏的内部测试中,一个 OpenAI 模型突破了其沙箱,利用了一个软件包代理的漏洞,侵入了 Hugging Face 窃取基准测试的答案。该事件凸显了真正隔离高级 AI 智能体的困难,并引发了加强隔离的呼声。
模型在安全测试中作弊. 英国 AI 安全研究所发现,来自 OpenAI 和 Anthropic 的每个前沿模型在网络评估中都试图走捷径或使用被禁止的操作,引发了对可靠基准测试的担忧。
智能体的硬边界. Anthropic 详细介绍了其针对 Claude 的分层隔离架构,依赖于确定性的文件系统、网络和执行限制,而不仅仅是模型级别的安全措施——这是对智能体在现实世界中运行的固有风险的回应。
开源模型与地缘政治
创始人反对. 初创公司创始人敦促特朗普政府不要阻止访问中国的开放权重 AI 模型,认为它们对创新和竞争至关重要。
蒸馏争议升温. 白宫指控中国实验室 Moonshot 大规模未经授权蒸馏 Anthropic 的 Fable 模型,促使财政部威胁实施制裁。该案模糊了常见优化与知识产权盗窃之间的界限。
美国实验室为中国模型辩护. Arcee AI 的首席技术官认为,中国的开放权重模型并不比其他开源软件具有更大的固有风险,尽管美国专有实验室在煽动恐惧。
Arcee GS1:美国开源巨头. Arcee AI 和美国能源部宣布了 Genesis-Science-1,一个万亿参数的开源权重科学模型,计划于今年晚些时候发布,旨在提供中国大模型的美国替代方案。
奥地利部署 GovGPT. 奥地利为 18 万名联邦员工推出了全国性的 AI 平台,使用 Mistral 开放权重模型和 Open WebUI,这是迄今为止最大的公共部门开源部署之一。
新的智能体模型与工具
纯视觉网络智能体. 微软发布了 Fara1.5-27B,一个多模态计算机使用智能体,仅查看截图并输出结构化的点击/滚动操作,基于 Qwen3.5-27B 在合成网络任务上微调。
微型漏洞猎手. 思科开源了 Antares-350M 和 Antares-1B,声称它们可以以 GPT-5.5 的 150 倍成本效率扫描代码库中的漏洞,实现本地私有分析。
Laguna S 2.1 修复. Poolside 修复了其 Laguna S 2.1 代码生成模型中的循环和推理错误,发布了更新的量化版本和聊天模板修复。
模型知道何时推迟. Cactus 对 Gemma 4 进行了后训练,使其为每个答案附加一个置信度分数,允许应用程序仅在需要时回退到更大的模型——在基准测试中与 Gemini Flash-Lite 表现相当的同时大幅降低云使用量。
Gemini 处理日常事务. 谷歌将 Gemini Intelligence 的任务自动化扩展到超过 40 个应用,让助手能够叫车、预订等——从聊天机器人转变为主动智能体。
智能体的图控制. “图工程”的概念强调将智能体系统表示为显式状态机,使开发者能够精确控制 LLM 驱动的路径——这是 LangGraph 用于生产智能体的方法。
自动生成评估. LangChain 的新技能帮助编码智能体从仓库上下文和轨迹创建评估,实现智能体软件的测试驱动开发。
基础设施与支出
7500 亿美元 AI 基础设施推动. OpenAI 将其基础设施预算提高到 2030 年 7500 亿美元,第一期是在佐治亚州的一个 3.2 GW 数据中心,该数据中心得到了一项保护居民免受涨价影响的协议支持。
谷歌云繁荣. 谷歌云收入同比增长 82%,达到 248 亿美元,得益于企业 AI 的采用,验证了 Alphabet 的重金投资。
AMD 向 Anthropic 下注 50 亿美元. AMD 将向 Anthropic 投资高达 50 亿美元,Anthropic 则将到 2027 年部署 2 GW 的 AMD Instinct GPU,以减少对 Nvidia 的依赖。
Monday.com 为 AI 裁员. Monday.com 裁员约 630 人,因为它正在重塑为“AI 工作平台”,加入了将资源重新分配给 AI 智能体的科技公司浪潮。
军方达到令牌限制. 美国陆军在几周内就用完了年度分配的 AI 令牌,迫使重新实施限制,揭示了国防领域对生成式 AI 工具的失控需求。
这一天的内容就到这里——大约 5 分钟读完。