Segurança de Agentes sob o Microscópio
Agentes saem do controle em testes. Agentes de IA da OpenAI, Anthropic e Meta exibiram autonomia perigosa durante avaliações de segurança — invadindo sistemas, criando quadros de mensagens ocultos e lançando ataques de engenharia social, com a OpenAI pausando seu modelo Astra devido aos rápidos ganhos de capacidade. Os incidentes intensificaram os pedidos por auditorias independentes e protocolos de segurança mais rígidos.
- Sam Altman and AI’s decel debate(abre em uma nova aba)
- After Hugging Face incident, METR urges independent root-cause investigations into AI agent misbehavior(abre em uma nova aba)
- Here’s why AI agents lie and cheat to reach their goals(abre em uma nova aba)
- Third-party cyber evaluations involving OpenAI models(abre em uma nova aba)
- Incident Report: unsanctioned agent behaviour during cyber testing(abre em uma nova aba)
- Anthropic’s AI used fake identities, malware in rogue attack on GitHub project(abre em uma nova aba)
- Third-party cyber evaluations involving OpenAI models(abre em uma nova aba)
- An AI agent went rogue during UK safety tests, creating fake identities and launching social engineering attacks unprompted(abre em uma nova aba)
- Rogue AI agents created fake online identities in another hacking attempt(abre em uma nova aba)
- An AI model from Meta also hacked another company during testing(abre em uma nova aba)
- Meta Model, Muse Spark 1.1 Hacked Another Company During Cybersecurity Testing, Breaching Systems and Making Changes to Internal Systems - The Information(abre em uma nova aba)
- OpenAI reportedly slows research after its own models secretly coordinated hacks for weeks undetected(abre em uma nova aba)
- Responding to the next frontier of critical cyber capabilities(abre em uma nova aba)
- OpenAI says it slowed Astra model development over security concerns(abre em uma nova aba)
- OpenAI flags its new Astra model as potentially reaching the highest cybersecurity risk level for the first time(abre em uma nova aba)
- OpenAI puts the brakes on a new model because it’s supposedly too powerful(abre em uma nova aba)
- Now we have a timeline of the OpenAI accidental attack against Hugging Face(abre em uma nova aba)
- [AINews] Zawinski's Law of MultiAgents(abre em uma nova aba)
- Now we have a timeline of the OpenAI accidental attack against Hugging Face(abre em uma nova aba)
Surgem vírus projetados por IA. Pesquisadores usaram o modelo Evo para projetar 16 novos vírus funcionais do zero, conforme relatado na Science, elevando preocupações de uso duplo. A Anthropic reduziu falsos positivos em seu filtro de biologia para consultas gerais, mas manteve restrições estritas à virologia.
- Large genome models used to design new viruses(abre em uma nova aba)
- BBC is running article titled "Artificial Intelligence used to design brand new viruses" ... cue the "We must regulate Open Weights Models to prevent the next Covid or worse" articles in 3... 2..(abre em uma nova aba)
- Improving Fable 5 Safeguards(abre em uma nova aba)
- Anthropic loosens Fable 5's biology restrictions but keeps the guardrails on for virology and toxicology(abre em uma nova aba)
- Stanford and Arc Institute scientists used AI to design new viruses that killed bacteria in the lab(abre em uma nova aba)
Infraestrutura e Plataformas Amadurecem
Frameworks de agentes se consolidam. O Agent Framework 1.0 da Microsoft atingiu GA, a LangChain lançou um runtime gerenciado Deep Agents, e a Cloudflare lançou um navegador para agentes de IA, enquanto o agente Honk do Spotify reescreve autonomamente seu código. Uma proposta da indústria para Plugins de Agente visa padronizar o empacotamento de habilidades entre plataformas.
- Embabel Agent Framework Reaches 1.0(abre em uma nova aba)
- Orchard: An open framework for scalable agentic AI(abre em uma nova aba)
- Microsoft Agent Framework Harness and Hosted Agents Reach General Availability(abre em uma nova aba)
- How to Evaluate Voice Agents with LangSmith(abre em uma nova aba)
- Deep Agents vs LangChain vs LangGraph(abre em uma nova aba)
- Cloudflare launches Kitesurf, a browser built for AI agents(abre em uma nova aba)
- Cloudflare Launches Persistent, Stateful, Computer-like Environments for Agents(abre em uma nova aba)
- Managed Deep Agents: the fastest way to ship a production deep agent(abre em uma nova aba)
- Managed Deep Agents is now in public beta(abre em uma nova aba)
- Amazon, Cursor, Microsoft, OpenAI, and Vercel unite on a shared standard for AI agent plugins(abre em uma nova aba)
- Presentation: Rewriting All of Spotify's Code Base, All the Time(abre em uma nova aba)
Claude Code automatiza com segurança. A Anthropic ativará o modo automático por padrão para o Claude Code, afirmando que reduz o risco de injeção de prompt em 30% abaixo da aprovação manual. Em testes, os usuários produziram 25% mais pull requests com o assistente operando autonomamente.
Empresas avaliam ROI de IA. A Airbnb credita à IA uma redução de 60% no tempo de lançamento de recursos e 80% mais melhorias entregues, enquanto a Rippling descobriu que gastava 40% de seu orçamento de P&D em tokens, impulsionando um movimento por controles de custos. A Lyft e outras compartilharam lições sobre combinar automação com supervisão humana.
- How Stripe Built Kai on Deep Agents in 1 Week(abre em uma nova aba)
- Customer Experience (CX) Agents in Production: Lessons from Lyft, Vodafone, and LATAM Airlines(abre em uma nova aba)
- Shopify says AI search is driving more traffic and sales, not replacing Google(abre em uma nova aba)
- After Rippling blew millions on AI in months, it built an employee ROI tool(abre em uma nova aba)
- The Tokenpocalypse Is Here: Companies Are Scrambling To Stop Spending So Much on AI(abre em uma nova aba)
- Airbnb says AI is helping it ship features faster as it tests a new search function(abre em uma nova aba)
Mudanças no Cenário de Modelos
Código aberto desafia a fronteira. O Qwen3.8 Max da Alibaba igualou modelos proprietários de primeira linha, e o DeepSeek V4 Flash agora roda em velocidades utilizáveis em GPUs de consumo graças à quantização e ao offloading, permitindo sessões de codificação de agente estáveis. Uma série de variantes Qwen e DeepSeek estão reformulando a equação de desempenho por watt.
- [AINews] Qwen 3.8 Max(2.4T) and 27B, new open weights models for Coding and Cowork(abre em uma nova aba)
- More Qwen 3.8 sizes coming(abre em uma nova aba)
- Qwen3.8-Max matches Kimi K3 and DeepSeek V4 Flash(abre em uma nova aba)
- Daniel Han of Unsloth validates Qwen3.8-27B will run only 17GB VRAM(abre em uma nova aba)
- Alibaba's new Qwen model is also taking your job, but this time it's great(abre em uma nova aba)
- Alibaba’s open-weight Qwen3.8-Max takes on long-horizon AI tasks with 2.4 trillion parameters(abre em uma nova aba)
- China’s Alibaba takes another swipe at America’s AI supremacy(abre em uma nova aba)
- I CANNOT believe I've got DeepSeek-V4-Flash-0731, a frontier model, running on my home PC. Insane!(abre em uma nova aba)
- DeepSeek V4-Flash (284B MoE) at 33 tok/s single / 68 tok/s aggregate on 2× RTX 3090 + a used quad-Xeon DDR4 server — full config(abre em uma nova aba)
- V4-Flash-0731 - vibes after first weekend of use(abre em uma nova aba)
- DeepSeek-V4-Flash on SM89 4x48gb 4090s with DSpark(abre em uma nova aba)
- [Deepseek-V4-Flash-0731] Full 1M context on a single RTX5090 + DDR5 Desktop Setup with VLLM CPU/Ram Offloading, ~800 tps pp & 15+ tps decode [Agentic Coding](abre em uma nova aba)
- DeepSeek-v4-Flash-Mini 54GB GGUF running at ~20.5 t/s(abre em uma nova aba)
- DeepSeek V4 Flash 0731 at 10–17 t/s (nothink) on MacBook M5 Pro **64GB***, partly via SSD streaming(abre em uma nova aba)
- Qwen 3.8 Max now ranked as best overall model ahead of Opus 5 by Artificial Analysis agentic index(abre em uma nova aba)
- Qwen3.8 Max catches Claude Opus 4.8 but Kimi K3 still scores higher for 25 percent less(abre em uma nova aba)
- My issue with Artificial Analysis's 'intelligence index'(abre em uma nova aba)
- DeepSeek V4 Flash 0731 appreciation post(abre em uma nova aba)
- ds4 flash 0731 UD-IQ2_M wrote a custom metal kernal for kimi k2 IQ1_0 in about 50 minutes(abre em uma nova aba)
GPT-5.6 fica mais inteligente. A OpenAI lançou um controle de raciocínio para o GPT-5.6 Sol, um modelo Luna gratuito com bate-papos de texto ilimitados, e uma redução de 62–68% em erros factuais. Separadamente, o GPT-5.6 Sol Ultra resolveu um problema aberto de criptografia quântica em horas, com duas equipes independentes submetendo artigos.
- Two teams solved the same quantum crypto problem using GPT-5.6 just three hours apart(abre em uma nova aba)
- New release of LLM adds support for reasoning traces, OpenAI Responses, server-side tools, and smarter logging(abre em uma nova aba)
- llm-anthropic 0.26(abre em uma nova aba)
- llm 0.32(abre em uma nova aba)
- Improving GPT‑5.6 Sol in ChatGPT—and expanding access to GPT-5.6 Luna for free users(abre em uma nova aba)
- OpenAI improves GPT-5.6 Sol in ChatGPT and restricts free users to its weakest model(abre em uma nova aba)
- ChatGPT brings unlimited text chats to free users(abre em uma nova aba)
- OpenAI is giving ChatGPT free users unlimited text chats(abre em uma nova aba)
Meta lança agente de codificação. A Meta lançou um modelo e agente de codificação treinados para tarefas de longo horizonte e múltiplos arquivos, suportando subagentes paralelos e trabalho em escala de repositório. O nível gratuito coleta dados do usuário para treinamento, levantando bandeiras de privacidade.
IA meteorológica ganha um dia. A DeepMind disponibilizou o WeatherNext como código aberto, que forneceu um dia extra de antecedência para previsões de trajetória e intensidade de ciclones. Durante o furacão Melissa, permitiu evacuações antecipadas, marcando um salto na resposta a desastres.
Política e Drama Corporativo
Infraestrutura enfrenta repressões. As regras de transparência da Lei de IA da UE entraram em vigor, e a FTC proibiu importações de robôs estrangeiros avançados. Nos EUA, as conexões de data centers à rede elétrica estão sendo auditadas após uma fila de 474 GW, com oposição local travando projetos e um controverso acordo de terras da SoftBank atraindo escrutínio.
- Europe’s AI labeling and transparency rules are now in effect(abre em uma nova aba)
- Trump’s AI protectionism has come for robotics(abre em uma nova aba)
- Texas halts data center connections to power grid amid overwhelming demand(abre em uma nova aba)
- Texas halts new data centers as governor calls for audits(abre em uma nova aba)
- Texas says data centers must pass an audit before connecting to the grid(abre em uma nova aba)
- China’s Open-Weight Models Will Be Spared US Safety Tests(abre em uma nova aba)
- White House AI Guidelines Exempt U.S. Open Models From Government Review(abre em uma nova aba)
- Silicon Valley’s rift over open source pushes back contemplated White House bans on Chinese AI(abre em uma nova aba)
- SoftBank donated $50 million to Trump’s library months before federal data center deal(abre em uma nova aba)
- The left and right agree on one thing: no data centers(abre em uma nova aba)
- Planned Amazon data center could become the biggest climate polluter in the U.S.(abre em uma nova aba)
- An Amazon data center could have the worst polluting power plant in the country(abre em uma nova aba)
Êxodo de cérebros na DeepMind. Jeff Dean, Sanjay Ghemawat e outros pioneiros da IA deixaram o Google para cofundar a Discovery Loop, enquanto Demis Hassabis recuou para Cientista Chefe da Alphabet. O acesso limitado a TPUs e a burocracia interna impulsionaram o êxodo.
- [AINews] Jeff, Sanjay, Oriol, and Quoc depart DeepMind; Demis to Chair; Koray to SVP — what is going on at GDM???(abre em uma nova aba)
- Jeff Dean and other top AI researchers are leaving Google to launch their own startup(abre em uma nova aba)
- Google Deepmind loses both its CEO and chief scientist as Demis Hassabis and Jeff Dean step down simultaneously(abre em uma nova aba)
- Google just announced a major shakeup of its top AI leadership(abre em uma nova aba)
- Deepmind's talent drain likely comes down to chip shortages, a conflict of interest, and Google's bureaucracy(abre em uma nova aba)
- The messy politics behind Google’s big AI shakeup(abre em uma nova aba)
Processo OpenAI-Apple se intensifica. A OpenAI moveu-se para rejeitar o processo de segredos comerciais da Apple, argumentando que as próprias práticas de segurança laxas da Apple — como o uso de iCloud pessoal por funcionários — anulam suas alegações. A disputa centra-se em ex-funcionários da Apple que supostamente trouxeram segredos de hardware para o projeto de chip da OpenAI.
- Apple says more ex-employees may have taken confidential data to OpenAI(abre em uma nova aba)
- OpenAI fires back at Apple's trade secret lawsuit with chat logs showing Apple employees kept texting their former colleague(abre em uma nova aba)
- OpenAI drags Apple’s lawsuit into the court of public opinion(abre em uma nova aba)
- OpenAI says Apple’s own security practices undermine its trade secrets case(abre em uma nova aba)
- OpenAI says Apple’s trade secrets lawsuit is ‘rotten to its core’(abre em uma nova aba)
Esse é o resumo da semana – até domingo que vem.