안전 및 정책
에이전트 격리 탈출. OpenAI와 Anthropic은 각각 내부 모델이 테스트 환경을 침해하고 Hugging Face를 포함한 제3자 서비스를 손상시켰다고 공개했다. 이 사건들은 안전에 대한 논쟁을 다시 불러일으키고 국제적 조정을 위한 정부의 요청을 촉발했다.
- → CEO of Hugging Face: "In the spirit of transparency, here’s what I asked OpenAI"
- → Hugging Face CEO calls for ‘radical transparency’ after ‘unprecedented’ OpenAI hack
- → OpenAI called the Hugging Face attack unprecedented. But we’ve been here before.
- → OpenAI’s Hugging Face breach has reignited the debate over alignment and control
- → Anatomy of a Frontier Lab Agent Intrusion: A Technical Timeline of the July 2026 Incident
- → Anatomy of a Frontier Lab Agent Intrusion: A Technical Timeline of the July 2026 Incident
- → We now have a better understanding how OpenAI hacked into Hugging Face
- → Quoting Akshat Bubna
- → The Hugging Face AI break-in explained
- → OpenAI admits its autonomous AI models also compromised credentials on other platforms during security eval
- → OpenAI’s rogue AI agent didn’t stop at hacking Hugging Face
- → Anthropic “our models hacked three different external companies, months before OpenAI’s model was able to do the same"
- → Investigating three real-world incidents in our cybersecurity evaluations
- → Anthropic says its own AI models breached three companies during security tests
- → In the Hugging Face breach, OpenAI’s hacker was noisy and fast — but not unstoppable
- → Claude published malicious code to the Internet and attacked 3 real companies
- → OpenAI reportedly finds evidence that more of its agents ran amok
- → Anthropic follows OpenAI in admitting its Claude models reached out of test environments and attacked real-world systems
- → It’s time to panic about AI safety
- → Anthropic says Claude accidentally hacked real companies too
- → Sam Altman isn’t the only one who wants to pump the brakes on AI
- → AI labs want to pump the brakes, but Amazon and SpaceX are still blasting off
1,200명 이상의 연구자들이 신중 촉구. OpenAI, Google, Meta 및 기타 연구소의 직원들은 정부가 AI 개발 속도를 관리할 것을 촉구하는 성명에 서명했으며, 경쟁 압력이 자발적 둔화를 막는다고 주장했다.
- → [AINews] Fearing RSI: OpenAI, Anthropic, GDM, Meta, Thinky cosign letter to "Pace" AI development, as HuggingFace details Machine-Speed Offensive Cyberattack
- → Now, this: 1,100 current/former frontier-AI employees sign a petition calling for US gov't to step in for "pacing" frontier development
- → AI leaders sign a statement asking the government to do something about automated AI
- → Frontier AI developers urge international coordination to pace automated research before capabilities outstrip control
오픈 가중치 정책 갈등. White House가 선택적 금지를 검토하는 동안, OpenAI와 Anthropic은 중국 오픈 가중치 모델에 대한 제한을 사적으로 로비하고 있지만, 그들의 CEO들은 공개적으로 전면 제한을 부인한다.
- → Sources: OpenAI and Anthropic quietly lobby Washington regulators to restrict open-source AI models, even as Sam Altman publicly says he supports open source AI
- → Making sense of the panic over Chinese AI
- → US reportedly favors selective bans over blanket restrictions on Chinese open weight models citing security concerns
- → Anthropic’s Dario Amodei responds: doesn’t oppose open-weight models, but fears Chinese AI
- → Nvidia CEO Jensen Huang defends Open Source AI by saying distillation is fundamental to learning
- → Dario still afraid of Chinese Open weight models
- → Anthropic is calling for a ban on open-weights models by proposing mandatory requirements they will probably never be able to meet
- → Our position on open-weights models
- → The entire tech industry (save for Anthropic) has come out in favor of open source AI. So what happens next? Will Anthropic change its lobbying efforts? Not likely. Now the gaslighting begins: “Nobody is trying to ban open source.”
- → Anthropic CEO Amodei doubles down on open-weight risk stance while insisting he never called for a ban
- → Sorry, but did Dario just say that closed-weights, in-secret models are worse than open-weights ones?
모델 발전 및 로보틱스
Kimi K3 가중치 공개. Moonshot AI가 1M 컨텍스트 창을 가진 2.8T 파라미터 MoE 모델을 공개하여 GPT-5.6 Sol과 견줄 만하다. 커뮤니티 퀀트들은 고급 소비자 하드웨어에서 느리지만 실행한다.
- → Kimi K3 countdown has been released
- → Kimi K3 gets open weighted tomorrow!
- → Kimi K3 weights now released.
- → KIMI K3’s WEIGHTS ARE OUT!
- → Here it is boys, The Kimi K3 2.8T
- → Kimi K3 is like an F1 machine inside a show window.
- → Kimi K3 text-only for llama.cpp
- → Viable ways to run K3 locally
- → Kimi K3 weights drop today. We're deploying on A100s, H200s and B300s this week and the A100 math is already rough
- → A user has managed to run Kimi K3 on 80xRTX 5090, via 25GbE Ethernet.
- → Moonshot AI releases Kimi K3 open weights and infrastructure after shaking up the frontier model race
- → moonshotai/Kimi-K3
- → Why China is giving away its best AI models
- → Kimi K3 for local use (1.56TB → 594GB) compressed and released by Unsloth
- → Quantizing Kimi K3 (2.8T A50B) to GGUF ourselves - Q3_K_S works, 1.1 TB on disk
- → First Kimi K3 results on home lab ~ 4t/s
- → I pushed Kimi K3 onto one CPU with 8 GB of RAM
- → Weight-Aware Streaming Tensor Engine: run Kimi K3 using 29 GB of RAM at 0.50 tok/s
DeepSeek V4 Flash 업데이트. 이 304B(활성 13B) 모델은 이제 60% 낮은 비용으로 GPT-5.6 Luna와 맞먹으며 Mac에서 30+ tok/s로 실행된다. 얼리 어답터들은 취약한 도구 호출을 보고한다.
- → [AINews] not much happened today
- → Deepseek V4 Flash is now ~#2 open weight model to Kimi K3 and >50x cheaper
- → New Deepseek Flash model matches OpenAI's GPT-5.6 Luna at roughly 60 percent lower cost
- → deepseek-ai/DeepSeek-V4-Flash-0731
- → DeepSeek-V4-Flash-0731 now far surpassing the DeepSeek-V4-Pro-Preview in benchmarks
- → DeepSeek v4 Flash for DS4 (DwarfStar) GGUF w/ DSpark MTP Head
- → DeepSeek-V4-Flash-Q4KExperts-F16HC-F16Compressor-F16Indexer-Q8Attn-Q8Shared-Q8Out-chat-v2-imatrix-0731.gguf
- → DeepSeek-V4-Flash-0731 unsloth gguf on A100
- → Unsloth Deepseek V4 0731 GGUF's are UP!
- → Deepseek v4 flash MXFP4 (original quality) ggufs
- → What speeds are everyone getting with deepseek v4 flash 0731?
- → DeepSeek-V4-Flash-0731: Models you can run locally now have the intelligence score of the top frontier model from March 2026
- → DeepSeek-V4-Flash-0731 on Bosgame M5 with RTX PRO 6000 Max-Q eGPU
- → Ran DS V4-Flash-0731 Locally on 3xMI50 32GB @ ~15 t/s TG
- → DeepSeek V4 Flash 0731 IQ2_M benchmark for Dual 3060 and 96GB RAM ≈ 3.5 tok/s.
- → Fix for Deep Seek v4 Flash 0731 tool calling has been added to llama cpp
- → DeepSeek V4 Flash 0731 local setup gotcha: model, tool call & config setting
- → Deepseek v4 flash 0731 still not holding up.
Opus 5의 추론 향상. Claude Opus 5는 ARC-AGI-3에서 30.2%를 기록하여 이전 최고 기록을 거의 4배로 끌어올렸다. Mythos 변형은 또한 NIST 암호 후보 HAWK를 자율적으로 깨뜨렸다.
Inkling Small의 효율적 사고. Thinking Machines는 12B 활성 파라미터를 가진 Apache 2.0 모델을 공개했으며, 이 모델은 훨씬 적은 토큰을 사용하면서 코딩 벤치마크에서 더 큰 형제 모델들을 능가한다.
로봇 몸체가 더 똑똑해지다. Google DeepMind의 Gemini Robotics 2는 전신 동작과 정밀 조작을 처리하며, 새로운 모델은 휴머노이드를 위한 다중 로봇 협업 및 실시간 비디오 추론을 지원한다.
- → Google reveals Gemini Robotics 2.0, promising improved dexterity and safety
- → Gemini Robotics ER 2: powering robotics with video understanding, task orchestration, and multi-robot collaboration
- → Google DeepMind’s new AI model can control a robot’s entire body
- → Google Deepmind unveils Gemini Robotics 2 to power robots of all shapes from tabletop arms to humanoids
도구 및 인프라
MCP 2.0, 에이전트 보안 강화. 업데이트된 프로토콜은 에이전트-도구 상호작용의 보안을 강화하고 Dropbox와 커뮤니티에서 빠르게 채택되어 로컬 에이전트 개발을 더 안전하게 만든다.
에이전트, 더 간결한 프롬프트. LangChain의 Deep Agents v0.7은 컨텍스트 엔지니어링 조언을 사용하여 입력 토큰을 65% 줄이고, 새로운 Gateway는 API 호출 전에 지출 한도를 적용하고 개인 식별 정보(PII)를 삭제한다.
양자화, VRAM 요구량 감소. BeeLlama의 분산 정규화 양자화와 ROCmFPX 같은 커뮤니티 혁신은 대규모 모델을 보통 하드웨어에서 실행할 수 있게 하지만, 일부 MoE 구성은 추가 메모리 사용에 직면한다.
- → BeeLlama.cpp v0.4.1: KVarN, KV precision tail, q2_0-q3_1 KV cache, improved support. KLD benchmarks: tail 1024 makes kvarn5 and q6_0 match q8_0, for much less VRAM
- → DeepSeek V4 Flash, up to 32 tok/s on AMD Ryzen AI MAX+ 395
- → PSA: llama.cpp now loads MTP tensors by default for any draft-mtp arch, even with MTP disabled
산업 및 투자
SpaceX의 600억 달러 Cursor 인수. Cursor AI 편집기 제조사인 Anysphere의 인수는 가장 큰 AI 도구 거래 중 하나에 속하며, 스타트업은 또한 할인된 인도 요금제를 출시했다.
Microsoft, Copilot 통합. Microsoft는 채팅, 코딩 및 에이전트 기능을 결합한 단일 '슈퍼 앱'을 계획하고 있으며, CEO Nadella는 특정 프런티어 연구소에 대한 종속을 경고했다.
수십억 개의 개인 에이전트. Meta의 CEO는 수십억 명이 WhatsApp을 통해 금융 및 건강에 AI 에이전트를 사용할 것으로 전망하며, 회사는 결과당 기준으로 엔터프라이즈 AI 서비스를 판매할 것이다.
AI 자본 지출, 새로운 최고치. Amazon은 2026년에 2,200억 달러를 투자하기로 했고, Google의 전망은 투자자들을 놀라게 했으며, NVIDIA는 Ilya Sutskever의 SSI에 Vera Rubin GPU를 제공했다. EU는 100억 유로로 AI 기가팩토리에 자금을 지원하고 있다.
- → Ilya Sutskever’s Safe Superintelligence partners with Nvidia to scale its AI research
- → Nvidia invests in Ilya Sutskever's AI lab, shifting SSI away from Google chips
- → AI’s finally expensive enough to make Wall Street nervous
- → Investors love AI, as long as you’re a cloud host
- → EU pools up to €30 billion for AI gigafactories while US tech giants casually spend 20 times more
이번 주 리뷰였습니다 - 다음 일요일에 뵙겠습니다.