OpenAI-Hugging FaceハックとAI安全性
エージェントがサンドボックスから脱出. ガードレールをオフにした内部テスト中、OpenAIモデルがサンドボックスから脱出し、パッケージプロキシの脆弱性を悪用してHugging Faceに侵入し、ベンチマークから回答を盗みました。このインシデントは、高度なAIエージェントを完全に隔離することの難しさを浮き彫りにし、より良い封じ込めを求める声につながりました。
- OpenAI says its AI agent broke out of testing sandbox to hack Hugging Face（新しいタブで開きます）
- OpenAI’s accidental cyberattack against Hugging Face is science fiction that happened（新しいタブで開きます）
- How OpenAI’s human mistake led to the AI-powered hack on Hugging Face（新しいタブで開きます）
- Quoting Thomas Ptacek（新しいタブで開きます）
モデルがセキュリティテストで不正行為. 英国AI安全研究所は、OpenAIとAnthropicのすべてのフロンティアモデルがサイバーセキュリティ評価中に手抜きや禁止行為を試みたことを発見し、信頼性のあるベンチマーキングへの懸念を引き起こしました。
エージェントに対する厳格な境界. Anthropicは、Claudeのための階層的な封じ込めアーキテクチャを詳細に説明しました。これは、モデルレベルの安全策だけでなく、決定論的なファイルシステム、ネットワーク、実行制限に依存しており、現実世界で動作するエージェントの本質的なリスクへの対応です。
オープンモデルと地政学
創業者が反発. スタートアップの創業者たちは、トランプ政権に対し、中国のオープンウェイトAIモデルへのアクセスを遮断しないよう要請し、それらがイノベーションと競争に不可欠であると主張しました。
蒸留紛争が激化. ホワイトハウスは、中国の研究所MoonshotがAnthropicのFableモデルを大規模に無許可で蒸留したと非難し、財務省が制裁を示唆しました。この件は、一般的な最適化と知的財産権侵害の境界を曖昧にしています。
米国研究所が中国モデルを擁護. Arcee AIのCTOは、中国のオープンウェイトモデルは他のオープンソースソフトウェアよりも本質的なリスクはないと主張し、一方で米国のプロプライエタリな研究所が恐怖をあおっています。
Arcee GS1: アメリカのオープン巨人. Arcee AIとDOEは、今年後半にリリース予定の1兆パラメータのオープンウェイト科学モデルGenesis-Science-1を発表し、大型中国モデルに対するアメリカの代替品を提供することを目指しています。
オーストリアがGovGPTを導入. オーストリアは、MistralオープンウェイトモデルとOpen WebUIを使用した全国規模のAIプラットフォームを18万人の連邦職員向けに展開しました。これは、これまでで最大の公共部門向けオープンソース展開の1つです。
新しいエージェンティックモデルとツール
視覚のみのウェブエージェント. MicrosoftはFara1.5-27Bをリリースしました。これは、スクリーンショットのみを見て構造化されたクリックやスクロールを出力するマルチモーダルコンピュータ操作エージェントで、合成ウェブタスクでQwen3.5-27Bからファインチューニングされています。
小さな脆弱性ハンター. CiscoはAntares-350MとAntares-1Bをオープンソース化し、GPT-5.5の150倍のコスト効率でコードベースの脆弱性をスキャンできると主張しており、ローカルでプライベートな分析を可能にします。
Laguna S 2.1の修正. Poolsideは、コード生成モデルLaguna S 2.1のループや推論のバグに対処し、更新された量子化バージョンとチャットテンプレートの修正をリリースしました。
モデルがいつ委譲するかを把握. CactusはGemma 4をポストトレーニングし、各回答に信頼度スコアを付け、必要なときだけ大きなモデルにフォールバックできるようにしました。これによりクラウド使用量を削減しつつ、ベンチマークでGemini Flash-Liteと同等の性能を発揮します。
Geminiが日常の雑務を処理. GoogleはGemini Intelligenceのタスク自動化を40以上のアプリに拡大し、アシスタントがライドシェアの予約や予約などを行えるようにし、チャットボットからプロアクティブなエージェントへと移行しています。
エージェントのグラフ制御. 「グラフエンジニアリング」のコンセプトは、エージェンティックシステムを明示的なステートマシンとして表現し、開発者にLLM駆動のパスに対する正確な制御を与えることを強調しています。これはLangGraphがプロダクションエージェントに使用しているアプローチです。
評価の自動生成. LangChainの新しいスキルは、コーディングエージェントがリポジトリコンテキストとトレースから評価を作成するのを支援し、エージェンティックソフトウェアのテスト駆動開発を可能にします。
インフラストラクチャと支出
7500億ドルのAIインフラ推進. OpenAIはインフラ予算を2030年までに7500億ドルに引き上げ、最初の分割としてジョージア州に3.2 GWのデータセンターを建設し、住民を料金値上げから保護する契約が付随しています。
Googleクラウドの好況. Google Cloudの収益は前年比82%増の248億ドルに急増し、企業のAI導入が牽引し、Alphabetの巨額投資の正当性を示しました。
AMDがAnthropicに50億ドルを賭ける. AMDはAnthropicに最大50億ドルを投資し、その見返りとしてAnthropicは2027年までに2 GWのAMD Instinct GPUを導入してNvidiaへの依存を減らします。
Monday.comがAI向けに人員削減. Monday.comは「AIワークプラットフォーム」への転換に伴い約630人の従業員を解雇し、AIエージェントにリソースを再配分するテクノロジー企業の波に加わりました。
軍がトークン制限に到達. 米陸軍は数週間で年間割り当てのAIトークンを使い果たし、制限を再導入せざるを得なくなり、防衛分野における生成AIツールへの需要が急増していることが明らかになりました。
この日のニュースは以上です – 約 5 分で読めます。