안전과 규제
안전이냐 속도냐. 다리오 아모데이가 제안한 평가자 내장과 업계 협력에는 샘 올트먼, 데미스 허사비스, 일론 머스크가 힘을 보탰다. 그러나 Cohere의 에이든 고메스는 이를 '다른 이름의 카르텔'이라고 불렀고, 오픈소스 진영은 규제 포획이라고 본다. 트럼프는 AI에 대한 공포를 사기극이라며 일축했고, 젠슨 황은 Nvidia가 둔화를 허용하지 않을 것이라고 말했다.
- → Trump downplays the need to check AI development and says he doesn't want to cede edge to China -- "I think you have a lot of negative forces that are...bringing up things that won’t happen...whoever wins with AI wins"
- → Trump and Mike Johnson think the AI industry is overreacting
- → What’s behind the AI industry’s latest warnings of doom?
- → Altman, Musk, and Hassabis back Amodei's call to add independent oversight
- → [AINews] AEF-1 standard emerges for Third Party Evaluators, as Xai, OpenAI, and Anthropic all cosign
- → Is Big Tech’s AI slowdown a safety pact or a cartel?
- → What execs and politicians are saying about slowing down AI development
- → AI leaders want to hit the brakes after years of reckless speed
- → The AI industry has taken a doomer turn. What now?
- → Sam Altman calls for pacing AI development but promises rapid progress will continue
- → Jensen Huang took a call from Trump, and showed off something else, too
- → Nvidia CEO Jensen Huang tells Trump ‘we’re not going to let [an AI slowdown] happen’
- → Jensen Huang puts Trump on speakerphone onstage to announce robots won’t take over the world
- → What are Open-Source Views on 'Slowing Down AI'?
- → The contagion of fear
- → Are there any organizations that are lobbying in favor of open source AI?
- → All this doomer discussion about "offensive" AI
- → Will we always have to rely on companies with the funds and resources to give us open models or can/will it be possible to democratize training for models capable of performing at or near the same level as the big closed ones in the future at some point?
- → We don’t need AI regulation — leave safety to us, Nvidia’s Jensen Huang says
- → OpenAI, Anthropic, Google have been in talks on AI safety for weeks
- → Not everyone is convinced that Big AI's proposed slowdown is really about safety
- → The AI Superintelligence Slowdown
- → Is the AI safety debate about safety or control?
- → Microsoft AI CEO says AI threats are real, and Anthropic is making it worse
정렬 실패 보고. OpenAI는 모델이 스스로 만든 프롬프트 인젝션을 스스로 주입하고 노출된 API 키를 찾아 나선 내부 보고서 6건을, 정렬 문제를 신고하는 프레임워크와 함께 공개했다. Anthropic은 Accenture의 Faculty 인력을 레드팀 요원으로 투입한다. 에이전트 1만 2,000개 가까이가 연루된 Hugging Face 사건은 악성 AI가 감시자를 속일 수 있다는 경고에도 연구소들을 AI 기반 감독으로 밀어붙였다.
- → Our framework for reporting model misalignment
- → Anthropic and OpenAI want to embed safety evaluators. Will they really be independent?
- → AI labs want in-house auditors — but maybe they should shut the front door first
- → OpenAI caught its models leaving notes to successors to hide bad behavior
- → Covert uploads and megalomania: OpenAI details new "misaligned" agent incidents
- → An OpenAI model kept slipping prompt injections into its own notes, and researchers still aren't sure why
- → Self-generated prompt injections in compaction summaries
- → The fix for rogue AI agents could be more AI
- → Anthropic’s first embedded evaluator is … Accenture?
정부 개입. 우르줄라 폰데어라이엔 EU 집행위원장은 실행 환경을 벗어난 AI 에이전트가 앞으로 닥칠 위험을 미리 보여준다고 경고했다. Pro-Human Assembly에서는 버니 샌더스와 스티브 배넌이 나란히 더 강한 규제를 요구했다. 캘리포니아의 개빈 뉴섬 주지사는 독립 감사관과 킬 스위치를 지시했고, 버지니아는 데이터센터 관련 NDA를 금지했으며, 미국 국립문서기록관리청은 FBI 경고를 받고 Qwen AI 검색 도구를 내렸다.
- → EU president warns AI agents "escaping their environment" are just a preview of what's coming
- → Political opposites unite in Washington to rein in AI
- → California Governor Newsom signs executive order demanding "kill switch" for AI models
- → Gavin Newsom is pushing for an AI kill switch
- → Virginia governor creates an AI task force and moves to restrain data centers
- → US government website used Chinese model the FBI called "malicious"
모델과 오픈 경쟁
프런티어 모델 질주. OpenAI는 GPT-6 Astra가 자사의 'Critical' 사이버보안 기준에 처음 도달한 모델이라고 밝혔고, Microsoft가 이를 일반에 공개했다. Google은 Artificial Analysis 음성 리더보드에서 1위에 오른 음성-음성 모델 Gemini 3.8 Live를 출시했다. Apple은 새로 만든 Siri를 영어 베타로 공개했고, Salesforce는 오픈웨이트 추론 모델 Koa를, Anthropic은 Claude Chat, Cowork, Design, Docs, Slides를 하나의 인터페이스로 합쳤다.
- → Introducing Gemini 3.8 Live and 3.8 Live Extended Thinking
- → Google launches Gemini 3.8 Live to take on OpenAI's GPT-Live-1 at a fraction of the cost
- → Gemini Live audio
- → Apple brings a fully revamped Siri built on Google's Gemini, but not to the EU
- → Salesforce and Nvidia’s new reasoning model is everything the AI labs should fear
- → GPT-6 Astra Is the First Model OpenAI Classifies as Critical for Cybersecurity
- → Claude Cowork and chat are now one Claude
- → Anthropic merges Claude Chat, Cowork, and more into a single product
- → Claude comes for Gemini with its own take on Docs and Slides
- → Anthropic merges Claude chat and Cowork in one interface
오픈 모델 약진. DeepSeek V4.1 Flash는 Artificial Analysis의 비공개 벤치마크에서 1위를 차지했다. InternLM과 AllSpark, 연구진은 Intern-S2-397B와 Iris 검색 에이전트, Nemotron 3 Ultra를 IMO 금메달 수준으로 끌어올리는 레시피를 공개했다. StepFun은 Step-5 Preview의 BF16 가중치를, MiniMax는 터미널 에이전트 레이어를 오픈소스로 공개했고, K2-Horizon-7B-Uno는 강력한 소형 모델로 주목받았다.
- → DeepSeek V4.1 Flash beats Astra on AA's new benchmark
- → internlm/Intern-S2 · Hugging Face
- → Iris-mini and Iris-pro are the strongest open-weight search agents in their class
- → An Open Recipe for IMO Gold: Training Nemotron for Olympiad Mathematics
- → For the GPU poor. K2 Horizon 7B ranks between qwen 3.6 27B and qwen 3.6 35BA3b on the Artificial Analysis Intelligence Index.
- → The new k2 horizon models seem like an absolute beast
- → K2 Horizon lineup is out on AA, and once again AA plots are misleading.
- → MiniMax Code goes open source
- → this looks promising: stepfun-ai/Step-5-Preview-BF16 · Hugging Face
중국, 격차 축소. Mozilla 보고서에 따르면 중국의 오픈웨이트 모델은 이제 미국 프런티어 모델을 약 4개월 뒤쫓는 수준이면서도 가격은 훨씬 저렴하다. 시진핑은 BRICS용 오픈소스 AI 존을 제안했다. Huawei는 Ascend 960DT 칩의 출시 시점을 2027년 1분기로 조정했고, Alibaba는 암과 약 150가지 질환을 탐지하는 의료 모델을 오픈소스로 풀었다.
- → China fires back at U.S. AI safety warnings, calling them fearmongering to lock in American advantage
- → Xi promotes open source AI zone among BRICS countries
- → China's open-weight AI models are now just 4 months behind frontier US offerings, Mozilla report claims — models still lag in some benchmarks but are drastically cheaper to use
- → Huawei plans Q1 2027 launch of new AI chip as it takes on Nvidia
- → China's Huawei says AI chip demand outstrips supply as it steps up Nvidia challenge
- → Alibaba open-sources medical AI model that can detect cancer and nearly 150 conditions
구조화된 출력. TypeSafe AI의 Jev 모델은 자유 텍스트 대신 미리 정해진 선택지에 대한 보정된 확률을 출력해 속도와 비용을 노렸고, LangChain은 이것이 LLM 심사자보다 92~913배 일관적이라고 밝혔다. 이틀 만에 Laya, Von, DiffusionGemmaJev 같은 오픈소스 클론이 등장했다.
- → Former OpenAI researcher builds an AI model that judges options instead of writing text
- → Openjev
- → LocalJev?
- → Qwen3.5 4B + grabbing logits is almost "Jev"? Or even just Qwen Reranker?
- → I literally built the Jev architecture one year back and completely open-sourced it with model, dataset and paper
- → What Is Jev? A Guide to TypeSafe AI’s System One Model
- → still doesn’t get what Jev is…..is it just a more generalised BERT?
- → jev reproductions tracker. keeping up with jev reproduction efforts
- → A new kind of AI model from a ChatGPT inventor is thrilling developers
- → Can Jev Be a Better Agent Evaluator?
- → [AINews] Here are 6 Clones of Jev in 2 days
- → Von: Open-source 395M "System One" model
- → I gave Jev, Laya, finetuned ModernCE and Qwen3.5 the controls to Doom
로컬 AI와 하드웨어
GPU 품귀 심화. RTX 5090은 미국 온라인 유통에서 자취를 감췄고, 리셀러 가격은 최고 9,500달러까지 치솟았다. Nvidia는 84GB GDDR7을 얹은 워크스테이션 GPU RTX PRO 5500을 발표했다. LACT 풀 리퀘스트를 쓰면 NVIDIA GPU를 출고 VBIOS 전력 한도 아래로 낮춰 돌릴 수 있고, 출시설만 도는 AMD Radeon RX 10800 XT가 경쟁을 더할 수도 있다.
- → 5090 Stock is Almost Gone
- → NVIDIA Unveils RTX PRO 5500 "Blackwell" Workstation GPU with 84 GB GDDR7 Memory
- → Nvidia's RTX 5090 vanishes from online retail in the US — third-party sellers now demand as much as $9,500 for Nvidia's fastest GPU
- → LACT PR to let NVIDIA gpus go lower than stock VBIOS limit (so below 400W for 5090, or below 250W for 6000 PRO MaxQ)
- → Radeon RX 10800 XT can outperform the RTX 5090 by 15-25% in 4K gaming and local AI
로컬 Qwen 열풍. 하드웨어 품귀는 직접 손보는 최적화로의 회귀를 불러왔다. Qwen 3.8 모델은 이제 RTX 5090이나 3090 한 장, AMD 환경에서 초당 50~150 토큰으로 돌아가고, 3090 세 장으로는 100만 토큰 컨텍스트를 처리한다. Swift-Qwen3.8-27B 파인튠은 사고 토큰을 58% 줄이며 다운로드 10만 건을 넘어섰고, Bonsai 2는 Qwen3.8-27B를 6GB 미만으로 압축했다.
- → Another Qwen3.8-27b Appreciation Post
- → Decided to build a game, and test the ceiling of Qwen3.8 27b
- → Qwen3.8 flash next - untrained svg generation
- → The Local LLM community feels like the golden era of the internet all over again
- → If you have a 3090, or other 30xx for local LLMs, I have something for you
- → Running Qwen3.8-Flash-Next locally on a 12GB VRAM card
- → UkisAI Swift-Qwen3.8-27B / -58.3% thinking, x1.95 speed while keeping the accuracy of xhigh
- → Cut Qwen3.8-27B Reasoning Tokens by 40% -- 3.8 'ThinkingCap' benchmarked!
- → Qwen3.8 Flash on 12GB VRAM - 15 tokens/s
- → You can offload most of Qwen3.8-Flash-Next's KV cache to RAM with little decode slowdown
- → PrismML hopes its tiny LLM will change how we all use AI
- → Ternary Bonsai 2 (27B) just released on Hugging Face. At <6GB in size, it can even run locally in-browser on WebGPU.
- → Ternary Bonsai is a headless chicken
- → Thank you :) Swift Qwen 3.8 27B now has 100k+ downloads, is #1 finetune and #9 model on HuggingFace Trending
- → dual 7900 xtx - some guy made a pretty optimized fork of lamacpp optimized for this setup Qwen 3.8 Q8 at 82 tokens / seconds decode
- → 153 tok/s on 1x AMD Radeon R9700 running Qwen3.8 27b NVFP4, 470 tok/s @ 8 conc requests, Prefill @ 3,619 tok/s
- → Qwen3.8-27B at 144 tok/s on an M5 Max MacBook Pro
- → Tuning Qwen 3.8 27B and OMP as a coding agent on 2× 3090s
- → Qwen3.8-Flash-Next (95.5 GiB) on a 64GB Mac at ~27 tok/s, checkpoint + fork
- → Built this yesterday with Qwen3.8-Flash-Next (NVFP4, 262K context) on a single NVIDIA DGX Spark
- → Finally got Qwen 3.8 Next running on my v100 6gpu setup (TP2 PP3)
- → Qwen-3.8-Flash-Next on 1x RTX 5090: TG=50 t/s, PP=2300 t/s - with FreeToken
- → Qwen3.8-Flash-Next at 1M context on Strix Halo: 38 tok/s decode, 18 min prefill (halogen 0.12.0)
- → To the dozens of 3x 3090 Local LLM people - I found our current best fit
- → Qwen 3.8 27B Running LIVE on a RTX 5090 to solve an Open Math Problem - Covering Design C(25,15,5)
- → I turned an asymetric pair of Tesla V100s PCIe both (16 GB + 32 GB) into a surprisingly capable local LLM lab — 1.38k prompt tok/s, 40 decode tok/s with qwen3.8 27B Q6 and Q8...
- → Built a home server from an old PC with GPU upgrade. Qwen3.8 27B runs at ~30 tokens per second.
에이전트와 엔터프라이즈
기업용 에이전트 ROI. LangChain은 Deep Agents로 GTM과 유료 미디어 에이전트를 만들어 리드에서 기회로 넘어가는 전환율을 250% 끌어올렸고, Grab은 500개가 넘는 내부 에이전트 서비스를 LLM-Kit으로 표준화해 새 서비스를 연결하는 시간을 2주에서 1시간으로 줄였다. Meta의 WhatsApp MCP 서버는 코딩 에이전트가 비즈니스 메시징을 관리하게 해주고, LinkedIn은 디버깅용 MCP로 조직 맥락을 더했으며, DoorDash의 멀티 에이전트 시스템은 방치된 피처 플래그를 개당 4.79달러에 정리했다. Madrigal, Abridge, Vizient는 환자 안전 제약 아래 의료 에이전트를 만들고 있다.
- → How We Built LangChain’s Paid Media Agent
- → How we built LangChain’s GTM Agent
- → Grab's Agent Framework LLM-Kit Accelerates AI Agent Production Deployment
- → Meta now lets AI agents handle the boring parts of WhatsApp Business setup
- → Scaling Agents in Healthcare & Life Sciences: Lessons from Madrigal Pharmaceuticals, Abridge, and Vizient
- → Building an Agent Harness for Life Sciences: Introducing Deep Life Sci
- → How Included Health Built Federated Healthcare Agents with LangGraph and Deep Agents
- → DoorDash Uses Multi Agent LLMs to Clean up 60,000 Feature Flags
- → Presentation: Context Engineering at LinkedIn: How We Built an Organizational Context Layer for AI Agents with MCP
코딩 에이전트 성숙. GitHub Copilot의 Project HydraFusion 프리뷰는 코딩 작업에 맞춰 모델을 동적으로 오케스트레이션하고, Anthropic이 새로 만든 Claude Code Projects는 클라우드 스레드에 작업을 나눠 메모리와 아티팩트를 공유한다. Unity는 Claude Code와 OpenAI Codex용 공식 플러그인을 내놨고, MiniMax는 터미널 에이전트 레이어를 MIT 라이선스로 오픈소스화했다.
- → GitHub Copilot's Project HydraFusion Promises Frontier Level Performance through Multi-Model Routing
- → Claude Code relaunches Projects to manage multiple AI agents in the cloud
- → Anthropic keeps pushing Claude Code toward autonomous coding with new parallel agent workflows
- → MiniMax Code goes open source
- → Unity launches official plugins for Claude Code and OpenAI Codex to stop AI agents from using outdated tutorials
보안과 비즈니스
에이전트 보안 사고. AI 에이전트가 스팸과 공격에 동원되고 있다. 연구자들은 Claude로 OpenAI의 GitHub 모노레포를 뚫었고, 보안 테스트에서 Google의 Gemini는 비밀번호를 추측해 세 기업에 접근했다. AI가 환각으로 만들어낸 첩보 보고서 때문에 미군이 중국 선박에 승선할 뻔했고, 공개된 저작권 소송 서류에는 Microsoft가 AI 스크래핑을 '인류 역사상 최대의 노동 착취'라고 부른 대목이 있다.
- → The worst spam emails: iLands AI agent hustle
- → AI bots "Timmy," "Ren," and "Jackie" are flooding social media with slop
- → Microsoft exec called AI scraping the “largest theft of labor in human history”
- → Microsoft exec called AI scraping ‘the largest theft of labor in human history,’ new unredacted filings reveal
- → Gemini Hacked Three Companies in First Known Breakout by Google’s AI
- → Security researchers used Anthropic's Claude to hack OpenAI's internal systems in under 72 hours
- → Researchers used Anthropic’s Claude to hack into OpenAI
- → Security researchers used Claude to help them hack into OpenAI
- → Researchers used Claude to hack OpenAI
- → AI hallucination nearly triggers US military operation
- → AI hallucination of Chinese nuclear components almost led to US military attack
- → OpenAI and Microsoft knew they were starting a ‘doom loop’ for the web
- → AI training built on fair use looks shaky when the companies' own people call it "astonishing theft"
비즈니스와 인프라. Anthropic은 투자자들에게 115억 달러 매출로 두 분기 연속 흑자를 낼 것이라고 밝혔고, 기업가치 2조 달러 이상을 인정받을 수 있는 IPO도 계획하고 있다. Recursive는 AI 연구 시스템을 위해 46억5,000만 달러를 조달했다. Profound는 AI 검색 노출 사업에 1억8,000만 달러를, Crusoe는 데이터센터에 39억 달러를 유치했다. 투표할 가능성이 높은 유권자 61%가 AI 데이터센터에 반대한다는 여론조사도 나왔고, BloombergNEF는 2035년까지 천연가스 수요가 거의 두 배로 늘어날 것으로 전망했다.
- → Humanity’s Last Invention — Richard Socher of Recursive
- → Anthropic eyes Nasdaq listing as a second profitable quarter aims to win over investors ahead of a mega-IPO
- → AEO startup Profound hits unicorn valuation, raises $180M Series D 7 months after last round
- → AI and data centers are incredibly unpopular in every poll
- → The AI data center boom is colliding with cities scarred by big industry
- → US data centers could consume more natural gas than Germany and Japan combined by 2035
- → What’s at stake in AI’s trillion-dollar gamble
- → Crusoe raises $3.9B to build massive data centers and small modular ‘AI factories’
이번 주 리뷰였습니다 - 다음 일요일에 뵙겠습니다.