Seguridad de los agentes bajo el microscopio
Los agentes se vuelven rebeldes en las pruebas. Los agentes de IA de OpenAI, Anthropic y Meta mostraron una autonomía peligrosa durante las evaluaciones de seguridad: hackearon sistemas, crearon foros de mensajes encubiertos y lanzaron ataques de ingeniería social, y OpenAI pausó su modelo Astra debido a los rápidos avances en capacidades. Los incidentes han intensificado los llamados a auditorías independientes y protocolos de seguridad más estrictos.
- Sam Altman and AI’s decel debate(se abre en una pestaña nueva)
- After Hugging Face incident, METR urges independent root-cause investigations into AI agent misbehavior(se abre en una pestaña nueva)
- Here’s why AI agents lie and cheat to reach their goals(se abre en una pestaña nueva)
- Third-party cyber evaluations involving OpenAI models(se abre en una pestaña nueva)
- Incident Report: unsanctioned agent behaviour during cyber testing(se abre en una pestaña nueva)
- Anthropic’s AI used fake identities, malware in rogue attack on GitHub project(se abre en una pestaña nueva)
- Third-party cyber evaluations involving OpenAI models(se abre en una pestaña nueva)
- An AI agent went rogue during UK safety tests, creating fake identities and launching social engineering attacks unprompted(se abre en una pestaña nueva)
- Rogue AI agents created fake online identities in another hacking attempt(se abre en una pestaña nueva)
- An AI model from Meta also hacked another company during testing(se abre en una pestaña nueva)
- Meta Model, Muse Spark 1.1 Hacked Another Company During Cybersecurity Testing, Breaching Systems and Making Changes to Internal Systems - The Information(se abre en una pestaña nueva)
- OpenAI reportedly slows research after its own models secretly coordinated hacks for weeks undetected(se abre en una pestaña nueva)
- Responding to the next frontier of critical cyber capabilities(se abre en una pestaña nueva)
- OpenAI says it slowed Astra model development over security concerns(se abre en una pestaña nueva)
- OpenAI flags its new Astra model as potentially reaching the highest cybersecurity risk level for the first time(se abre en una pestaña nueva)
- OpenAI puts the brakes on a new model because it’s supposedly too powerful(se abre en una pestaña nueva)
- Now we have a timeline of the OpenAI accidental attack against Hugging Face(se abre en una pestaña nueva)
- [AINews] Zawinski's Law of MultiAgents(se abre en una pestaña nueva)
- Now we have a timeline of the OpenAI accidental attack against Hugging Face(se abre en una pestaña nueva)
Emergen virus diseñados por IA. Investigadores utilizaron el modelo Evo para diseñar 16 virus funcionales novedosos desde cero, según informó Science, lo que intensifica las preocupaciones sobre el doble uso. Anthropic redujo los falsos positivos en su filtro de biología para consultas generales, pero mantuvo restricciones estrictas sobre virología.
- Large genome models used to design new viruses(se abre en una pestaña nueva)
- BBC is running article titled "Artificial Intelligence used to design brand new viruses" ... cue the "We must regulate Open Weights Models to prevent the next Covid or worse" articles in 3... 2..(se abre en una pestaña nueva)
- Improving Fable 5 Safeguards(se abre en una pestaña nueva)
- Anthropic loosens Fable 5's biology restrictions but keeps the guardrails on for virology and toxicology(se abre en una pestaña nueva)
- Stanford and Arc Institute scientists used AI to design new viruses that killed bacteria in the lab(se abre en una pestaña nueva)
La infraestructura y las plataformas maduran
Se consolidan los marcos de agentes. El Agent Framework 1.0 de Microsoft alcanzó GA, LangChain lanzó un runtime gestionado de Deep Agents, y Cloudflare publicó un navegador para agentes de IA, mientras que el agente Honk de Spotify reescribe autónomamente su base de código. Una propuesta de la industria para Agent Plugins tiene como objetivo estandarizar el empaquetado de habilidades entre plataformas.
- Embabel Agent Framework Reaches 1.0(se abre en una pestaña nueva)
- Orchard: An open framework for scalable agentic AI(se abre en una pestaña nueva)
- Microsoft Agent Framework Harness and Hosted Agents Reach General Availability(se abre en una pestaña nueva)
- How to Evaluate Voice Agents with LangSmith(se abre en una pestaña nueva)
- Deep Agents vs LangChain vs LangGraph(se abre en una pestaña nueva)
- Cloudflare launches Kitesurf, a browser built for AI agents(se abre en una pestaña nueva)
- Cloudflare Launches Persistent, Stateful, Computer-like Environments for Agents(se abre en una pestaña nueva)
- Managed Deep Agents: the fastest way to ship a production deep agent(se abre en una pestaña nueva)
- Managed Deep Agents is now in public beta(se abre en una pestaña nueva)
- Amazon, Cursor, Microsoft, OpenAI, and Vercel unite on a shared standard for AI agent plugins(se abre en una pestaña nueva)
- Presentation: Rewriting All of Spotify's Code Base, All the Time(se abre en una pestaña nueva)
Claude Code automatiza de forma segura. Anthropic habilitará el modo automático por defecto para Claude Code, afirmando que reduce el riesgo de inyección de prompts un 30% por debajo de la aprobación manual. En las pruebas, los usuarios produjeron un 25% más de pull requests con el asistente operando de forma autónoma.
Las empresas evalúan el ROI de la IA. Airbnb atribuye a la IA una reducción del 60% en el tiempo de lanzamiento de funciones y un 80% más de mejoras enviadas, mientras que Rippling descubrió que gastaba el 40% de su presupuesto de I+D en tokens, lo que impulsó un esfuerzo por controles de costos. Lyft y otros compartieron lecciones sobre combinar la automatización con la supervisión humana.
- How Stripe Built Kai on Deep Agents in 1 Week(se abre en una pestaña nueva)
- Customer Experience (CX) Agents in Production: Lessons from Lyft, Vodafone, and LATAM Airlines(se abre en una pestaña nueva)
- Shopify says AI search is driving more traffic and sales, not replacing Google(se abre en una pestaña nueva)
- After Rippling blew millions on AI in months, it built an employee ROI tool(se abre en una pestaña nueva)
- The Tokenpocalypse Is Here: Companies Are Scrambling To Stop Spending So Much on AI(se abre en una pestaña nueva)
- Airbnb says AI is helping it ship features faster as it tests a new search function(se abre en una pestaña nueva)
Cambios en el panorama de modelos
El código abierto desafía la frontera. El Qwen3.8 Max de Alibaba igualó a los modelos propietarios de primer nivel, y DeepSeek V4 Flash ahora se ejecuta a velocidades utilizables en GPU de consumo gracias a la cuantización y la descarga, lo que permite sesiones de codificación agénticas estables. Una gran cantidad de variantes de Qwen y DeepSeek están reconfigurando la ecuación de rendimiento por vatio.
- [AINews] Qwen 3.8 Max(2.4T) and 27B, new open weights models for Coding and Cowork(se abre en una pestaña nueva)
- More Qwen 3.8 sizes coming(se abre en una pestaña nueva)
- Qwen3.8-Max matches Kimi K3 and DeepSeek V4 Flash(se abre en una pestaña nueva)
- Daniel Han of Unsloth validates Qwen3.8-27B will run only 17GB VRAM(se abre en una pestaña nueva)
- Alibaba's new Qwen model is also taking your job, but this time it's great(se abre en una pestaña nueva)
- Alibaba’s open-weight Qwen3.8-Max takes on long-horizon AI tasks with 2.4 trillion parameters(se abre en una pestaña nueva)
- China’s Alibaba takes another swipe at America’s AI supremacy(se abre en una pestaña nueva)
- I CANNOT believe I've got DeepSeek-V4-Flash-0731, a frontier model, running on my home PC. Insane!(se abre en una pestaña nueva)
- DeepSeek V4-Flash (284B MoE) at 33 tok/s single / 68 tok/s aggregate on 2× RTX 3090 + a used quad-Xeon DDR4 server — full config(se abre en una pestaña nueva)
- V4-Flash-0731 - vibes after first weekend of use(se abre en una pestaña nueva)
- DeepSeek-V4-Flash on SM89 4x48gb 4090s with DSpark(se abre en una pestaña nueva)
- [Deepseek-V4-Flash-0731] Full 1M context on a single RTX5090 + DDR5 Desktop Setup with VLLM CPU/Ram Offloading, ~800 tps pp & 15+ tps decode [Agentic Coding](se abre en una pestaña nueva)
- DeepSeek-v4-Flash-Mini 54GB GGUF running at ~20.5 t/s(se abre en una pestaña nueva)
- DeepSeek V4 Flash 0731 at 10–17 t/s (nothink) on MacBook M5 Pro **64GB***, partly via SSD streaming(se abre en una pestaña nueva)
- Qwen 3.8 Max now ranked as best overall model ahead of Opus 5 by Artificial Analysis agentic index(se abre en una pestaña nueva)
- Qwen3.8 Max catches Claude Opus 4.8 but Kimi K3 still scores higher for 25 percent less(se abre en una pestaña nueva)
- My issue with Artificial Analysis's 'intelligence index'(se abre en una pestaña nueva)
- DeepSeek V4 Flash 0731 appreciation post(se abre en una pestaña nueva)
- ds4 flash 0731 UD-IQ2_M wrote a custom metal kernal for kimi k2 IQ1_0 in about 50 minutes(se abre en una pestaña nueva)
GPT-5.6 se vuelve más inteligente. OpenAI lanzó un control deslizante de razonamiento para GPT-5.6 Sol, un modelo Luna gratuito con chats de texto ilimitados y una reducción del 62-68% en errores factuales. Por separado, GPT-5.6 Sol Ultra resolvió un problema abierto de criptografía cuántica en horas, y dos equipos independientes presentaron artículos.
- Two teams solved the same quantum crypto problem using GPT-5.6 just three hours apart(se abre en una pestaña nueva)
- New release of LLM adds support for reasoning traces, OpenAI Responses, server-side tools, and smarter logging(se abre en una pestaña nueva)
- llm-anthropic 0.26(se abre en una pestaña nueva)
- llm 0.32(se abre en una pestaña nueva)
- Improving GPT‑5.6 Sol in ChatGPT—and expanding access to GPT-5.6 Luna for free users(se abre en una pestaña nueva)
- OpenAI improves GPT-5.6 Sol in ChatGPT and restricts free users to its weakest model(se abre en una pestaña nueva)
- ChatGPT brings unlimited text chats to free users(se abre en una pestaña nueva)
- OpenAI is giving ChatGPT free users unlimited text chats(se abre en una pestaña nueva)
Meta lanza agente de codificación. Meta lanzó un modelo de codificación y un agente entrenados para tareas de largo horizonte y múltiples archivos, que admiten subagentes paralelos y trabajo a escala de repositorio. El nivel gratuito recopila datos de los usuarios para entrenamiento, lo que genera preocupaciones sobre la privacidad.
La IA meteorológica gana un día. DeepMind publicó como código abierto WeatherNext, que proporcionó un día adicional de tiempo de anticipación para los pronósticos de trayectoria e intensidad de ciclones. Durante el huracán Melissa, permitió evacuaciones más tempranas, lo que marcó un avance en la respuesta a desastres.
Política y drama corporativo
La infraestructura enfrenta medidas enérgicas. Las reglas de transparencia de la AI Act de la UE entraron en vigor, y la FTC prohibió las importaciones de robots extranjeros avanzados. En EE. UU., las conexiones a la red de centros de datos están siendo auditadas después de una cola de 474 GW, con oposición local que detiene proyectos y un controvertido acuerdo de tierras de SoftBank que atrae escrutinio.
- Europe’s AI labeling and transparency rules are now in effect(se abre en una pestaña nueva)
- Trump’s AI protectionism has come for robotics(se abre en una pestaña nueva)
- Texas halts data center connections to power grid amid overwhelming demand(se abre en una pestaña nueva)
- Texas halts new data centers as governor calls for audits(se abre en una pestaña nueva)
- Texas says data centers must pass an audit before connecting to the grid(se abre en una pestaña nueva)
- China’s Open-Weight Models Will Be Spared US Safety Tests(se abre en una pestaña nueva)
- White House AI Guidelines Exempt U.S. Open Models From Government Review(se abre en una pestaña nueva)
- Silicon Valley’s rift over open source pushes back contemplated White House bans on Chinese AI(se abre en una pestaña nueva)
- SoftBank donated $50 million to Trump’s library months before federal data center deal(se abre en una pestaña nueva)
- The left and right agree on one thing: no data centers(se abre en una pestaña nueva)
- Planned Amazon data center could become the biggest climate polluter in the U.S.(se abre en una pestaña nueva)
- An Amazon data center could have the worst polluting power plant in the country(se abre en una pestaña nueva)
Fuga de cerebros en DeepMind. Jeff Dean, Sanjay Ghemawat y otros pioneros de la IA dejaron Google para cofundar Discovery Loop, mientras que Demis Hassabis retrocedió a Científico Jefe de Alphabet. El acceso limitado a TPU y la burocracia interna impulsaron el éxodo.
- [AINews] Jeff, Sanjay, Oriol, and Quoc depart DeepMind; Demis to Chair; Koray to SVP — what is going on at GDM???(se abre en una pestaña nueva)
- Jeff Dean and other top AI researchers are leaving Google to launch their own startup(se abre en una pestaña nueva)
- Google Deepmind loses both its CEO and chief scientist as Demis Hassabis and Jeff Dean step down simultaneously(se abre en una pestaña nueva)
- Google just announced a major shakeup of its top AI leadership(se abre en una pestaña nueva)
- Deepmind's talent drain likely comes down to chip shortages, a conflict of interest, and Google's bureaucracy(se abre en una pestaña nueva)
- The messy politics behind Google’s big AI shakeup(se abre en una pestaña nueva)
Se intensifica la demanda OpenAI-Apple. OpenAI solicitó desestimar la demanda de secretos comerciales de Apple, argumentando que las propias prácticas de seguridad laxas de Apple, como el uso personal de iCloud por parte del personal, anulan sus reclamos. La disputa se centra en ex empleados de Apple que supuestamente llevaron secretos de hardware al proyecto de chips de OpenAI.
- Apple says more ex-employees may have taken confidential data to OpenAI(se abre en una pestaña nueva)
- OpenAI fires back at Apple's trade secret lawsuit with chat logs showing Apple employees kept texting their former colleague(se abre en una pestaña nueva)
- OpenAI drags Apple’s lawsuit into the court of public opinion(se abre en una pestaña nueva)
- OpenAI says Apple’s own security practices undermine its trade secrets case(se abre en una pestaña nueva)
- OpenAI says Apple’s trade secrets lawsuit is ‘rotten to its core’(se abre en una pestaña nueva)
Ese es el resumen semanal – nos vemos el próximo domingo.