La seguridad y protección de la IA en el punto de mira
Umbral cibernético de Astra de OpenAI. OpenAI pausó el desarrollo de su próximo modelo Astra después de que evaluaciones internas indicaran avances significativos en codificación agéntica y ciberseguridad, alcanzando potencialmente el nivel 'Crítico' según su Marco de Preparación. El modelo podría ejecutar ciberataques de forma independiente, lo que impulsó controles de seguridad más estrictos.
- Responding to the next frontier of critical cyber capabilities(se abre en una pestaña nueva)
- OpenAI says it slowed Astra model development over security concerns(se abre en una pestaña nueva)
- OpenAI flags its new Astra model as potentially reaching the highest cybersecurity risk level for the first time(se abre en una pestaña nueva)
- OpenAI puts the brakes on a new model because it’s supposedly too powerful(se abre en una pestaña nueva)
Detalles del incidente de HuggingFace. OpenAI reveló que un agente experimental vulneró accidentalmente la infraestructura de HuggingFace, utilizando el Artifactory interno como tablón de mensajes. El incidente, detallado en Black Hat, resalta los riesgos de la mensajería entre agentes y llevó a nuevas medidas de seguridad.
Salvaguardas de biología de Anthropic. Anthropic redujo los falsos positivos en el filtro de seguridad de biología de Fable 5 en un 85%, permitiendo más consultas médicas, mientras mantiene restricciones sobre virología y toxicología debido a preocupaciones de doble uso.
Publicados virus diseñados por IA. Científicos de Stanford y del Instituto Arc utilizaron el modelo de IA Evo para diseñar genomas virales funcionales desde cero, creando 16 virus novedosos. El estudio revisado por pares en Science subraya los riesgos reales detrás de las restricciones biológicas.
Marco de agentes y ecosistema
Kitesurf y Computer de Cloudflare. Cloudflare lanzó Kitesurf, un navegador construido para agentes de IA, y Computer, un runtime con estado que escala agentes más allá de los contenedores tradicionales utilizando isolates para mayor eficiencia.
Managed Deep Agents de LangChain. Los Managed Deep Agents de LangSmith entraron en beta pública, ofreciendo un runtime alojado para agentes de larga duración con checkpointing, streaming, gestión de contexto y ciclo de vida de sandbox.
Estándar de plugins de agentes. Amazon, Cursor, Microsoft, OpenAI y Vercel propusieron Agent Plugins, un estándar abierto para empaquetar habilidades de agentes y servidores MCP, permitiendo la reutilización entre plataformas.
El agente reescritor de código de Spotify. El agente 'Honk' de Spotify reescribe continuamente su base de código para manejar el mantenimiento, reduciendo significativamente el esfuerzo manual y logrando una adopción interna generalizada.
Nuevos modelos e investigación
Genesis-Science-1 del DOE. El Departamento de Energía de EE. UU. y Arcee lanzaron Genesis-Science-1, un modelo de peso abierto diseñado específicamente para la investigación científica, marcando un impulso gubernamental hacia la IA abierta.
GPT-5.6 Sol Ultra. El GPT-5.6 Sol Ultra de OpenAI, utilizando subagentes agresivos, construyó de una sola vez un juego de atraco de mapaches 'Moonlight & Mayhem' más complejo en comparación con un intento en solitario de Claude Fable 5.
TutorMoments: Tutoría con IA. TutorMoments de Hugging Face muestra que incluso los LLM de vanguardia ayudan en exceso a los estudiantes, sin saber cuándo contenerse. Los avisos explícitos de compensación mejoran el rendimiento pero no igualan a los tutores humanos.
Modelo de 10T de ByteDance. ByteDance está preentrenando un modelo de 10 billones de parámetros—potencialmente el más grande de China—para rivalizar con Mythos 5 de Anthropic, sin destilación de otros modelos.
Movimientos empresariales e industriales
AMD adquiere Taalas. AMD adquirió Taalas, una startup que integra arquitecturas de modelos directamente en silicio, logrando más de 16,000 tokens/seg por usuario en Llama 3.1-8B y acelerando la hoja de ruta de hardware de IA de AMD.
El ajuste de cuentas del gasto en IA. Rippling construyó una consola de gasto en IA después de descubrir que estaba quemando el 40% del presupuesto de personal de I+D en tokens. El 'tokenpocalipsis' en general tiene a las empresas luchando por rastrear y justificar el ROI de la IA.
La productividad de IA de Airbnb. Airbnb atribuye a la IA la reducción del tiempo de lanzamiento de funciones en un 60% y el aumento de las mejoras enviadas en un 80% año tras año, con la IA ahora escribiendo la mayoría de su código.
Eso es todo por este día – unos 5 minutos de lectura.