DeepSeek V4 Flash aterriza localmente: velocidades, cuantizaciones y peculiaridades de agentes
Inteligencia a la par de marzo de 2026. DeepSeek V4 Flash (0731) logra una puntuación de índice de inteligencia de 50, casi igualando los 51 de los modelos de vanguardia de hace cinco meses. En hardware de consumo, funciona a velocidades utilizables: 44 t/s en una eGPU RTX PRO 6000, 15 t/s en tres MI50, e incluso 4,5 t/s en dos RTX 3060 con descarga a RAM, gracias a una inteligente cuantización y a la descarga parcial.
- DeepSeek-V4-Flash-0731: Models you can run locally now have the intelligence score of the top frontier model from March 2026(se abre en una pestaña nueva)
- DeepSeek-V4-Flash-0731 on Bosgame M5 with RTX PRO 6000 Max-Q eGPU(se abre en una pestaña nueva)
- Ran DS V4-Flash-0731 Locally on 3xMI50 32GB @ ~15 t/s TG(se abre en una pestaña nueva)
- DeepSeek V4 Flash 0731 IQ2_M benchmark for Dual 3060 and 96GB RAM ≈ 3.5 tok/s.(se abre en una pestaña nueva)
Llamada a herramientas arreglada, el seguimiento de reglas sigue siendo inestable. Tras los informes de la comunidad sobre llamadas a herramientas rotas, se fusionó una corrección en llama.cpp y se compartieron soluciones alternativas para Unsloth Studio. Sin embargo, los usuarios descubren que el modelo a menudo ignora los mensajes del sistema y las habilidades, almacenándolos como resúmenes comprimidos en lugar de adherirse estrictamente, lo que socava su fiabilidad para tareas de agente que requieren un seguimiento preciso de instrucciones.
Evaluación de Agentes y Benchmarks
Benchmarks comunitarios para agentes Hermes. Los usuarios de LocalLLaMA discuten los mejores benchmarks para evaluar modelos capaces de actuar como agentes, como Hermes, y muchos consideran que los leaderboards establecidos como SWE-bench no se aplican a sus flujos de trabajo de asistente doméstico o procesamiento de documentos.
Critican los leaderboards centrados solo en codificación. Un llamado a benchmarks más diversos argumenta que los leaderboards recientes se centran desproporcionadamente en tareas de codificación, dejando subrepresentados el aprendizaje de idiomas, la escritura creativa y el razonamiento STEM, lo que dificulta evaluar el rendimiento del modelo para casos de uso de agentes no relacionados con la codificación.
Kit DIY de benchmarks específicos de dominio. Un usuario de Reddit creó una colección de más de 30 pruebas pequeñas y específicas de dominio (por ejemplo, sentido común, simulación de lavado de coches) y una herramienta web para comparar las respuestas de los modelos, con el objetivo de llenar el vacío entre los benchmarks amplios y los casos de uso personales.
Investigación en IA y Agentes de Codificación
Astra resuelve problemas matemáticos de décadas de antigüedad. La próxima familia de modelos de OpenAI, Astra, resolvió diez problemas abiertos previamente en matemáticas y ciencias de la computación teóricas, con pruebas formales en Lean y un costo de menos de 2,000 dólares por solución. Los resultados abarcan geometría, teoría de códigos y complejidad cuántica, y ya han inspirado más investigación humana.
Los agentes de codificación reviven software de investigación envejecido. Un estudio de campo con OpenAI y socios académicos muestra que los agentes de codificación de IA como GPT-5.5 y Claude Code pueden modernizar software científico frágil, logrando aceleraciones de más de 60 veces en algunos casos, pero el trabajo traslada la carga a verificar la corrección: los agentes no pueden juzgar la ciencia.
Política y Seguridad para Sistemas de Agentes
Un gusano de inyección de prompts que se autopropaga ataca a Copilot. Un investigador de seguridad demostró un gusano que utiliza texto blanco sobre blanco oculto en documentos de Word para inyectar instrucciones maliciosas en Microsoft Copilot, que luego copia la carga útil a nuevos archivos. Microsoft confirmó el comportamiento pero no lo ha corregido después de 144 días.
Comienza el mandato de etiquetado de la Ley de IA de la UE. A partir del 2 de agosto de 2026, la UE exige que las imágenes, videos, audio y texto generados por IA estén claramente etiquetados. La regulación puede afectar a los agentes que publican contenido o crean medios de forma autónoma.
La prohibición de 'nudify' en Minnesota sobrevive al desafío legal de xAI. Un juez federal rechazó el intento de xAI de bloquear temporalmente la ley de Minnesota contra las aplicaciones que generan imágenes explícitas no consensuadas, señalando que xAI esperó tres meses para demandar. La ley entra en vigor mientras continúa la demanda.
Nuevos Modelos e Inferencia Extrema
Kimi K3 se ejecuta en una sola CPU, lentamente. Dos desarrolladores escribieron de forma independiente motores de inferencia mínimos en C para ejecutar el modelo MoE de 1,56 TB Kimi K3 en disco sin GPU. Uno logró un token cada 30 segundos usando 8 GB de RAM y streaming NVMe; otro obtuvo 0,5 t/s con 29 GB de RAM, leyendo todos los expertos bajo demanda.
LongCat-Flash-Lite-Sparse ya está disponible. Esta nueva versión reemplaza la atención densa con la Atención Dispersa LongCat (LSA) y soporta de forma nativa hasta 1 millón de tokens de contexto, lo que la hace adecuada para tareas de agentes con documentos largos.
Laguna S 2.1 actualiza el contexto y la cuantización. Poolside lanzó nuevos checkpoints FP8 y NVFP4 para Laguna S 2.1, aumentando el tamaño de contexto predeterminado a 1M de tokens y con la esperanza de corregir un problema de bucles que había dificultado los flujos de trabajo de desarrollo.
Eso es todo por este día – unos 5 minutos de lectura.