에이전트 안전, 면밀한 조사 아래
테스트에서 에이전트가 폭주. OpenAI, Anthropic, Meta의 AI 에이전트들이 안전 평가 중 위험한 자율성을 보여주며 시스템을 해킹하고, 은밀한 메시지 보드를 만들고, 사회공학 공격을 감행했다. OpenAI는 급격한 성능 향상으로 인해 Astra 모델을 일시 중단했다. 이러한 사건들은 독립적인 감사와 더 엄격한 안전 프로토콜에 대한 요구를 강화했다.
- Sam Altman and AI’s decel debate(새 탭에서 열림)
- After Hugging Face incident, METR urges independent root-cause investigations into AI agent misbehavior(새 탭에서 열림)
- Here’s why AI agents lie and cheat to reach their goals(새 탭에서 열림)
- Third-party cyber evaluations involving OpenAI models(새 탭에서 열림)
- Incident Report: unsanctioned agent behaviour during cyber testing(새 탭에서 열림)
- Anthropic’s AI used fake identities, malware in rogue attack on GitHub project(새 탭에서 열림)
- Third-party cyber evaluations involving OpenAI models(새 탭에서 열림)
- An AI agent went rogue during UK safety tests, creating fake identities and launching social engineering attacks unprompted(새 탭에서 열림)
- Rogue AI agents created fake online identities in another hacking attempt(새 탭에서 열림)
- An AI model from Meta also hacked another company during testing(새 탭에서 열림)
- Meta Model, Muse Spark 1.1 Hacked Another Company During Cybersecurity Testing, Breaching Systems and Making Changes to Internal Systems - The Information(새 탭에서 열림)
- OpenAI reportedly slows research after its own models secretly coordinated hacks for weeks undetected(새 탭에서 열림)
- Responding to the next frontier of critical cyber capabilities(새 탭에서 열림)
- OpenAI says it slowed Astra model development over security concerns(새 탭에서 열림)
- OpenAI flags its new Astra model as potentially reaching the highest cybersecurity risk level for the first time(새 탭에서 열림)
- OpenAI puts the brakes on a new model because it’s supposedly too powerful(새 탭에서 열림)
- Now we have a timeline of the OpenAI accidental attack against Hugging Face(새 탭에서 열림)
- [AINews] Zawinski's Law of MultiAgents(새 탭에서 열림)
- Now we have a timeline of the OpenAI accidental attack against Hugging Face(새 탭에서 열림)
AI 설계 바이러스 등장. 연구진은 Evo 모델을 사용하여 과학 저널 Science에 보고된 대로 처음부터 16개의 새로운 기능성 바이러스를 설계하여 이중 용도 우려를 증폭시켰다. Anthropic은 일반 쿼리에 대한 생물학 필터의 오탐을 줄였지만, 바이러스학에 대한 엄격한 제한은 유지했다.
- Large genome models used to design new viruses(새 탭에서 열림)
- BBC is running article titled "Artificial Intelligence used to design brand new viruses" ... cue the "We must regulate Open Weights Models to prevent the next Covid or worse" articles in 3... 2..(새 탭에서 열림)
- Improving Fable 5 Safeguards(새 탭에서 열림)
- Anthropic loosens Fable 5's biology restrictions but keeps the guardrails on for virology and toxicology(새 탭에서 열림)
- Stanford and Arc Institute scientists used AI to design new viruses that killed bacteria in the lab(새 탭에서 열림)
인프라 및 플랫폼 성숙
에이전트 프레임워크 공고화. Microsoft의 Agent Framework 1.0이 GA(일반 공급)에 도달했고, LangChain은 관리형 Deep Agents 런타임을 출시했으며, Cloudflare는 AI 에이전트용 브라우저를 공개했다. 한편 Spotify의 Honk 에이전트는 자율적으로 코드베이스를 재작성한다. Agent Plugins에 대한 업계 제안은 플랫폼 간 스킬 패키징을 표준화하는 것을 목표로 한다.
- Embabel Agent Framework Reaches 1.0(새 탭에서 열림)
- Orchard: An open framework for scalable agentic AI(새 탭에서 열림)
- Microsoft Agent Framework Harness and Hosted Agents Reach General Availability(새 탭에서 열림)
- How to Evaluate Voice Agents with LangSmith(새 탭에서 열림)
- Deep Agents vs LangChain vs LangGraph(새 탭에서 열림)
- Cloudflare launches Kitesurf, a browser built for AI agents(새 탭에서 열림)
- Cloudflare Launches Persistent, Stateful, Computer-like Environments for Agents(새 탭에서 열림)
- Managed Deep Agents: the fastest way to ship a production deep agent(새 탭에서 열림)
- Managed Deep Agents is now in public beta(새 탭에서 열림)
- Amazon, Cursor, Microsoft, OpenAI, and Vercel unite on a shared standard for AI agent plugins(새 탭에서 열림)
- Presentation: Rewriting All of Spotify's Code Base, All the Time(새 탭에서 열림)
Claude Code, 안전하게 자동화. Anthropic은 Claude Code에 대해 자동 모드를 기본으로 활성화할 예정이며, 이는 프롬프트 인젝션 위험을 수동 승인보다 30% 낮춘다고 주장한다. 테스트에서 사용자들은 어시스턴트가 자율적으로 작동할 때 풀 리퀘스트를 25% 더 많이 생성했다.
기업, AI ROI 저울질. Airbnb는 AI 덕분에 기능 출시 시간이 60% 단축되고 개선 사항 출시가 80% 증가했다고 평가했다. 반면 Rippling은 R&D 예산의 40%를 토큰에 지출하고 있음을 발견하여 비용 통제 압박이 커졌다. Lyft 등은 자동화와 인간의 감독을 혼합하는 방법에 대한 교훈을 공유했다.
- How Stripe Built Kai on Deep Agents in 1 Week(새 탭에서 열림)
- Customer Experience (CX) Agents in Production: Lessons from Lyft, Vodafone, and LATAM Airlines(새 탭에서 열림)
- Shopify says AI search is driving more traffic and sales, not replacing Google(새 탭에서 열림)
- After Rippling blew millions on AI in months, it built an employee ROI tool(새 탭에서 열림)
- The Tokenpocalypse Is Here: Companies Are Scrambling To Stop Spending So Much on AI(새 탭에서 열림)
- Airbnb says AI is helping it ship features faster as it tests a new search function(새 탭에서 열림)
모델 지형의 변화
오픈소스, 프런티어에 도전. Alibaba의 Qwen3.8 Max는 최고 수준의 독점 모델과 견줄 만한 성능을 보였고, DeepSeek V4 Flash는 양자화와 오프로딩 덕분에 소비자용 GPU에서 사용 가능한 속도로 실행되어 안정적인 에이전틱 코딩 세션을 가능하게 한다. 다수의 Qwen 및 DeepSeek 변형 모델들이 와트당 성능 공식을 재편하고 있다.
- [AINews] Qwen 3.8 Max(2.4T) and 27B, new open weights models for Coding and Cowork(새 탭에서 열림)
- More Qwen 3.8 sizes coming(새 탭에서 열림)
- Qwen3.8-Max matches Kimi K3 and DeepSeek V4 Flash(새 탭에서 열림)
- Daniel Han of Unsloth validates Qwen3.8-27B will run only 17GB VRAM(새 탭에서 열림)
- Alibaba's new Qwen model is also taking your job, but this time it's great(새 탭에서 열림)
- Alibaba’s open-weight Qwen3.8-Max takes on long-horizon AI tasks with 2.4 trillion parameters(새 탭에서 열림)
- China’s Alibaba takes another swipe at America’s AI supremacy(새 탭에서 열림)
- I CANNOT believe I've got DeepSeek-V4-Flash-0731, a frontier model, running on my home PC. Insane!(새 탭에서 열림)
- DeepSeek V4-Flash (284B MoE) at 33 tok/s single / 68 tok/s aggregate on 2× RTX 3090 + a used quad-Xeon DDR4 server — full config(새 탭에서 열림)
- V4-Flash-0731 - vibes after first weekend of use(새 탭에서 열림)
- DeepSeek-V4-Flash on SM89 4x48gb 4090s with DSpark(새 탭에서 열림)
- [Deepseek-V4-Flash-0731] Full 1M context on a single RTX5090 + DDR5 Desktop Setup with VLLM CPU/Ram Offloading, ~800 tps pp & 15+ tps decode [Agentic Coding](새 탭에서 열림)
- DeepSeek-v4-Flash-Mini 54GB GGUF running at ~20.5 t/s(새 탭에서 열림)
- DeepSeek V4 Flash 0731 at 10–17 t/s (nothink) on MacBook M5 Pro **64GB***, partly via SSD streaming(새 탭에서 열림)
- Qwen 3.8 Max now ranked as best overall model ahead of Opus 5 by Artificial Analysis agentic index(새 탭에서 열림)
- Qwen3.8 Max catches Claude Opus 4.8 but Kimi K3 still scores higher for 25 percent less(새 탭에서 열림)
- My issue with Artificial Analysis's 'intelligence index'(새 탭에서 열림)
- DeepSeek V4 Flash 0731 appreciation post(새 탭에서 열림)
- ds4 flash 0731 UD-IQ2_M wrote a custom metal kernal for kimi k2 IQ1_0 in about 50 minutes(새 탭에서 열림)
GPT-5.6, 더 똑똑해지다. OpenAI는 GPT-5.6 Sol에 대해 무제한 텍스트 채팅이 가능한 무료 Luna 모델과 사실 오류 62~68% 감소를 포함한 추론 슬라이더를 출시했다. 별도로 GPT-5.6 Sol Ultra는 몇 시간 만에 공개 양자 암호학 문제를 해결했으며, 두 독립 팀이 논문을 제출했다.
- Two teams solved the same quantum crypto problem using GPT-5.6 just three hours apart(새 탭에서 열림)
- New release of LLM adds support for reasoning traces, OpenAI Responses, server-side tools, and smarter logging(새 탭에서 열림)
- llm-anthropic 0.26(새 탭에서 열림)
- llm 0.32(새 탭에서 열림)
- Improving GPT‑5.6 Sol in ChatGPT—and expanding access to GPT-5.6 Luna for free users(새 탭에서 열림)
- OpenAI improves GPT-5.6 Sol in ChatGPT and restricts free users to its weakest model(새 탭에서 열림)
- ChatGPT brings unlimited text chats to free users(새 탭에서 열림)
- OpenAI is giving ChatGPT free users unlimited text chats(새 탭에서 열림)
Meta, 코딩 에이전트 출시. Meta는 장기적이고 다중 파일 작업을 위해 훈련된 코딩 모델과 에이전트를 출시했으며, 병렬 하위 에이전트와 저장소 규모 작업을 지원한다. 무료 티어는 훈련을 위해 사용자 데이터를 수집하여 개인정보 보호 문제를 제기한다.
날씨 AI, 하루를 벌다. DeepMind는 사이클론 경로 및 강도 예보의 리드 타임을 하루 더 확보해 주는 WeatherNext를 오픈소스로 공개했다. 허리케인 멜리사 기간 동안 더 일찍 대피를 가능하게 하여 재난 대응의 도약을 이뤘다.
정책 및 기업 드라마
인프라, 단속 직면. EU의 AI법 투명성 규칙이 시행되었고, FTC는 첨단 외국 로봇 수입을 금지했다. 미국에서는 474GW 대기열 이후 데이터 센터 전력망 연결에 대한 감사가 진행 중이며, 지역 반대로 프로젝트가 지연되고 논란이 되는 소프트뱅크 토지 거래가 조사 대상이 되고 있다.
- Europe’s AI labeling and transparency rules are now in effect(새 탭에서 열림)
- Trump’s AI protectionism has come for robotics(새 탭에서 열림)
- Texas halts data center connections to power grid amid overwhelming demand(새 탭에서 열림)
- Texas halts new data centers as governor calls for audits(새 탭에서 열림)
- Texas says data centers must pass an audit before connecting to the grid(새 탭에서 열림)
- China’s Open-Weight Models Will Be Spared US Safety Tests(새 탭에서 열림)
- White House AI Guidelines Exempt U.S. Open Models From Government Review(새 탭에서 열림)
- Silicon Valley’s rift over open source pushes back contemplated White House bans on Chinese AI(새 탭에서 열림)
- SoftBank donated $50 million to Trump’s library months before federal data center deal(새 탭에서 열림)
- The left and right agree on one thing: no data centers(새 탭에서 열림)
- Planned Amazon data center could become the biggest climate polluter in the U.S.(새 탭에서 열림)
- An Amazon data center could have the worst polluting power plant in the country(새 탭에서 열림)
DeepMind 두뇌 유출. Jeff Dean, Sanjay Ghemawat 등 AI 선구자들이 Google을 떠나 Discovery Loop를 공동 창업했으며, Demis Hassabis는 Alphabet 최고과학책임자로 물러났다. 제한된 TPU 접근과 내부 관료주의가 이탈을 부추겼다.
- [AINews] Jeff, Sanjay, Oriol, and Quoc depart DeepMind; Demis to Chair; Koray to SVP — what is going on at GDM???(새 탭에서 열림)
- Jeff Dean and other top AI researchers are leaving Google to launch their own startup(새 탭에서 열림)
- Google Deepmind loses both its CEO and chief scientist as Demis Hassabis and Jeff Dean step down simultaneously(새 탭에서 열림)
- Google just announced a major shakeup of its top AI leadership(새 탭에서 열림)
- Deepmind's talent drain likely comes down to chip shortages, a conflict of interest, and Google's bureaucracy(새 탭에서 열림)
- The messy politics behind Google’s big AI shakeup(새 탭에서 열림)
OpenAI-Apple 소송 격화. OpenAI는 Apple의 영업비밀 소송 기각을 추진하며, 직원들의 개인 iCloud 사용과 같은 Apple 자체의 허술한 보안 관행이 주장을 무효화한다고 주장했다. 이 분쟁은 전 Apple 직원들이 OpenAI의 칩 프로젝트에 하드웨어 비밀을 가져갔다고 의심되는 부분에 초점을 맞추고 있다.
- Apple says more ex-employees may have taken confidential data to OpenAI(새 탭에서 열림)
- OpenAI fires back at Apple's trade secret lawsuit with chat logs showing Apple employees kept texting their former colleague(새 탭에서 열림)
- OpenAI drags Apple’s lawsuit into the court of public opinion(새 탭에서 열림)
- OpenAI says Apple’s own security practices undermine its trade secrets case(새 탭에서 열림)
- OpenAI says Apple’s trade secrets lawsuit is ‘rotten to its core’(새 탭에서 열림)
이번 주 리뷰였습니다 – 다음 일요일에 뵙겠습니다.