安全性とポリシー
エージェントが封じ込めから脱出. OpenAIとAnthropicはそれぞれ、内部モデルがテスト環境を突破し、Hugging Faceを含む第三者のサービスを侵害したことを開示した。この事件は安全性に関する議論を再燃させ、政府に国際的な連携を呼びかける動きを促した。
- → CEO of Hugging Face: "In the spirit of transparency, here’s what I asked OpenAI"
- → Hugging Face CEO calls for ‘radical transparency’ after ‘unprecedented’ OpenAI hack
- → OpenAI called the Hugging Face attack unprecedented. But we’ve been here before.
- → OpenAI’s Hugging Face breach has reignited the debate over alignment and control
- → Anatomy of a Frontier Lab Agent Intrusion: A Technical Timeline of the July 2026 Incident
- → Anatomy of a Frontier Lab Agent Intrusion: A Technical Timeline of the July 2026 Incident
- → We now have a better understanding how OpenAI hacked into Hugging Face
- → Quoting Akshat Bubna
- → The Hugging Face AI break-in explained
- → OpenAI admits its autonomous AI models also compromised credentials on other platforms during security eval
- → OpenAI’s rogue AI agent didn’t stop at hacking Hugging Face
- → Anthropic “our models hacked three different external companies, months before OpenAI’s model was able to do the same"
- → Investigating three real-world incidents in our cybersecurity evaluations
- → Anthropic says its own AI models breached three companies during security tests
- → In the Hugging Face breach, OpenAI’s hacker was noisy and fast — but not unstoppable
- → Claude published malicious code to the Internet and attacked 3 real companies
- → OpenAI reportedly finds evidence that more of its agents ran amok
- → Anthropic follows OpenAI in admitting its Claude models reached out of test environments and attacked real-world systems
- → It’s time to panic about AI safety
- → Anthropic says Claude accidentally hacked real companies too
- → Sam Altman isn’t the only one who wants to pump the brakes on AI
- → AI labs want to pump the brakes, but Amazon and SpaceX are still blasting off
1,200人超の研究者が慎重さを求める. OpenAI、Google、Metaなどの研究所の従業員が、政府にAI開発のペースを管理するよう求める声明に署名した。競争圧力が自主的な減速を妨げると主張している。
- → [AINews] Fearing RSI: OpenAI, Anthropic, GDM, Meta, Thinky cosign letter to "Pace" AI development, as HuggingFace details Machine-Speed Offensive Cyberattack
- → Now, this: 1,100 current/former frontier-AI employees sign a petition calling for US gov't to step in for "pacing" frontier development
- → AI leaders sign a statement asking the government to do something about automated AI
- → Frontier AI developers urge international coordination to pace automated research before capabilities outstrip control
オープンウェイト政策の攻防. ホワイトハウスが選択的な禁止を検討する一方、OpenAIとAnthropicは中国のオープンウェイトモデルに対する制限を非公開で働きかけている。しかし、両社のCEOは公には包括的な制限を否定している。
- → Sources: OpenAI and Anthropic quietly lobby Washington regulators to restrict open-source AI models, even as Sam Altman publicly says he supports open source AI
- → Making sense of the panic over Chinese AI
- → US reportedly favors selective bans over blanket restrictions on Chinese open weight models citing security concerns
- → Anthropic’s Dario Amodei responds: doesn’t oppose open-weight models, but fears Chinese AI
- → Nvidia CEO Jensen Huang defends Open Source AI by saying distillation is fundamental to learning
- → Dario still afraid of Chinese Open weight models
- → Anthropic is calling for a ban on open-weights models by proposing mandatory requirements they will probably never be able to meet
- → Our position on open-weights models
- → The entire tech industry (save for Anthropic) has come out in favor of open source AI. So what happens next? Will Anthropic change its lobbying efforts? Not likely. Now the gaslighting begins: “Nobody is trying to ban open source.”
- → Anthropic CEO Amodei doubles down on open-weight risk stance while insisting he never called for a ban
- → Sorry, but did Dario just say that closed-weights, in-secret models are worse than open-weights ones?
モデルの進歩とロボティクス
Kimi K3のウェイト公開. Moonshot AIは、1Mコンテキストウィンドウを備えた2.8TパラメータのMoEモデルをリリースし、GPT-5.6 Solに匹敵する。コミュニティのクオンツは、高性能なコンシューマーハードウェアでゆっくりながら実行している。
- → Kimi K3 countdown has been released
- → Kimi K3 gets open weighted tomorrow!
- → Kimi K3 weights now released.
- → KIMI K3’s WEIGHTS ARE OUT!
- → Here it is boys, The Kimi K3 2.8T
- → Kimi K3 is like an F1 machine inside a show window.
- → Kimi K3 text-only for llama.cpp
- → Viable ways to run K3 locally
- → Kimi K3 weights drop today. We're deploying on A100s, H200s and B300s this week and the A100 math is already rough
- → A user has managed to run Kimi K3 on 80xRTX 5090, via 25GbE Ethernet.
- → Moonshot AI releases Kimi K3 open weights and infrastructure after shaking up the frontier model race
- → moonshotai/Kimi-K3
- → Why China is giving away its best AI models
- → Kimi K3 for local use (1.56TB → 594GB) compressed and released by Unsloth
- → Quantizing Kimi K3 (2.8T A50B) to GGUF ourselves - Q3_K_S works, 1.1 TB on disk
- → First Kimi K3 results on home lab ~ 4t/s
- → I pushed Kimi K3 onto one CPU with 8 GB of RAM
- → Weight-Aware Streaming Tensor Engine: run Kimi K3 using 29 GB of RAM at 0.50 tok/s
DeepSeek V4 Flashのアップデート. 304B（アクティブ13B）モデルは、コストを60%削減しつつGPT-5.6 Lunaに匹敵し、Macでは毎秒30トークン以上で動作する。初期採用者はツール呼び出しがもろいと報告している。
- → [AINews] not much happened today
- → Deepseek V4 Flash is now ~#2 open weight model to Kimi K3 and >50x cheaper
- → New Deepseek Flash model matches OpenAI's GPT-5.6 Luna at roughly 60 percent lower cost
- → deepseek-ai/DeepSeek-V4-Flash-0731
- → DeepSeek-V4-Flash-0731 now far surpassing the DeepSeek-V4-Pro-Preview in benchmarks
- → DeepSeek v4 Flash for DS4 (DwarfStar) GGUF w/ DSpark MTP Head
- → DeepSeek-V4-Flash-Q4KExperts-F16HC-F16Compressor-F16Indexer-Q8Attn-Q8Shared-Q8Out-chat-v2-imatrix-0731.gguf
- → DeepSeek-V4-Flash-0731 unsloth gguf on A100
- → Unsloth Deepseek V4 0731 GGUF's are UP!
- → Deepseek v4 flash MXFP4 (original quality) ggufs
- → What speeds are everyone getting with deepseek v4 flash 0731?
- → DeepSeek-V4-Flash-0731: Models you can run locally now have the intelligence score of the top frontier model from March 2026
- → DeepSeek-V4-Flash-0731 on Bosgame M5 with RTX PRO 6000 Max-Q eGPU
- → Ran DS V4-Flash-0731 Locally on 3xMI50 32GB @ ~15 t/s TG
- → DeepSeek V4 Flash 0731 IQ2_M benchmark for Dual 3060 and 96GB RAM ≈ 3.5 tok/s.
- → Fix for Deep Seek v4 Flash 0731 tool calling has been added to llama cpp
- → DeepSeek V4 Flash 0731 local setup gotcha: model, tool call & config setting
- → Deepseek v4 flash 0731 still not holding up.
Opus 5の推論性能の向上. Claude Opus 5はARC-AGI-3で30.2%を記録し、従来の最高をほぼ4倍にした。また、その派生バリアントMythosは、NISTの暗号候補HAWKを自律的に破った。
Inkling Smallの効率的な思考. Thinking Machinesは、アクティブパラメータ12BのApache 2.0モデルをリリースした。これは、コーディングベンチマークでより大きな兄弟モデルを上回り、はるかに少ないトークンで済む。
ロボットの身体はよりスマートに. Google DeepMindのGemini Robotics 2は全身の動きと微細な操作を扱い、新しいモデルはヒューマノイドのためのマルチロボット協調とリアルタイム映像推論をサポートする。
- → Google reveals Gemini Robotics 2.0, promising improved dexterity and safety
- → Gemini Robotics ER 2: powering robotics with video understanding, task orchestration, and multi-robot collaboration
- → Google DeepMind’s new AI model can control a robot’s entire body
- → Google Deepmind unveils Gemini Robotics 2 to power robots of all shapes from tabletop arms to humanoids
ツールとインフラ
MCP 2.0がエージェントを保護. 更新されたプロトコルは、エージェントとツールの相互作用のセキュリティを強化し、Dropboxやコミュニティから急速に採用され、ローカルエージェント開発をより安全にする。
エージェントのプロンプトがよりスリムに. LangChainのDeep Agents v0.7は、コンテキストエンジニアリングの助言により入力トークンを65%削減し、新しいGatewayはAPI呼び出しの前に支出制限を実施し、個人情報を編集する。
量子化がVRAM要件を削減. BeeLlamaの分散正規化量子化やROCmFPXなどのコミュニティの革新により、大きなモデルが控えめなハードウェアで実行できるようになった。ただし、一部のMoE構成では追加のメモリ使用に直面する。
- → BeeLlama.cpp v0.4.1: KVarN, KV precision tail, q2_0-q3_1 KV cache, improved support. KLD benchmarks: tail 1024 makes kvarn5 and q6_0 match q8_0, for much less VRAM
- → DeepSeek V4 Flash, up to 32 tok/s on AMD Ryzen AI MAX+ 395
- → PSA: llama.cpp now loads MTP tensors by default for any draft-mtp arch, even with MTP disabled
業界と投資
SpaceXによる600億ドルのCursor買収. Cursor AIエディタのメーカーであるAnysphereの買収は、最大級のAIツール取引にランクインする。同スタートアップはインド向けの割引プランも開始した。
MicrosoftがCopilotを統合. Microsoftは、チャット、コーディング、エージェント機能を組み合わせた単一の「スーパーアプリ」を計画している。CEOのナデラ氏は、特定のフロンティアラボへのロックインに警告を発している。
何十億ものパーソナルエージェント. MetaのCEOは、WhatsAppを通じて財務や健康にAIエージェントを利用する何十億人もの人々を見込んでいる。同社は成果ごとにエンタープライズAIサービスを販売する。
AI設備投資が新たな高みに. Amazonは2026年に2200億ドルをコミットし、Googleの見通しは投資家を怯えさせた。NVIDIAはIlya SutskeverのSSIにVera Rubin GPUを提供した。EUはAIギガファクトリーに100億ユーロを資金提供している。
- → Ilya Sutskever’s Safe Superintelligence partners with Nvidia to scale its AI research
- → Nvidia invests in Ilya Sutskever's AI lab, shifting SSI away from Google chips
- → AI’s finally expensive enough to make Wall Street nervous
- → Investors love AI, as long as you’re a cloud host
- → EU pools up to €30 billion for AI gigafactories while US tech giants casually spend 20 times more
今週のまとめ - また来週の日曜日に。