DeepSeek V4 Flash débarque en local : vitesses, quants et bizarreries d'agent
Intelligence à la hauteur de mars 2026. DeepSeek V4 Flash (0731) atteint un score d'indice d'intelligence de 50, se rapprochant presque des 51 des modèles de pointe d'il y a cinq mois. Sur du matériel grand public, il fonctionne à des vitesses utilisables : 44 t/s sur un eGPU RTX PRO 6000, 15 t/s sur trois MI50, et même 4,5 t/s sur deux RTX 3060 avec déchargement de la RAM, grâce à une quantification intelligente et un déchargement partiel.
- DeepSeek-V4-Flash-0731: Models you can run locally now have the intelligence score of the top frontier model from March 2026(s'ouvre dans un nouvel onglet)
- DeepSeek-V4-Flash-0731 on Bosgame M5 with RTX PRO 6000 Max-Q eGPU(s'ouvre dans un nouvel onglet)
- Ran DS V4-Flash-0731 Locally on 3xMI50 32GB @ ~15 t/s TG(s'ouvre dans un nouvel onglet)
- DeepSeek V4 Flash 0731 IQ2_M benchmark for Dual 3060 and 96GB RAM ≈ 3.5 tok/s.(s'ouvre dans un nouvel onglet)
Appel d'outil corrigé, le respect des règles reste capricieux. Après des signalements de la communauté sur des appels d'outil cassés, un correctif de llama.cpp a été fusionné, et des solutions de contournement pour Unsloth Studio ont été partagées. Cependant, les utilisateurs constatent que le modèle ignore souvent les invites système et les compétences, les stockant sous forme de résumés compressés plutôt que de s'y conformer strictement, ce qui nuit à sa fiabilité pour les tâches d'agent nécessitant un suivi précis des instructions.
Évaluation des agents et benchmarks
Benchmarks communautaires pour les agents Hermes. Les utilisateurs de LocalLLaMA discutent des meilleurs benchmarks pour évaluer les modèles capables d'agir comme Hermes, beaucoup estimant que les classements établis comme SWE-bench ne s'appliquent pas à leurs flux de travail d'assistant domestique ou de traitement de documents.
Classements limités au codage critiqués. Un appel à des benchmarks plus diversifiés fait valoir que les classements récents se concentrent de manière disproportionnée sur les tâches de codage, laissant l'apprentissage des langues, l'écriture créative et le raisonnement scientifique sous-représentés, ce qui rend difficile l'évaluation des performances des modèles pour les cas d'utilisation d'agents non liés au codage.
Kit de benchmark maison spécifique au domaine. Un Redditor a construit une collection de plus de 30 petits tests spécifiques à un domaine (par exemple, bon sens, simulation de lavage auto) et un outil web pour comparer les réponses des modèles, visant à combler le fossé entre les benchmarks généraux et les cas d'utilisation personnels.
Recherche en IA et agents de codage
Astra résout des problèmes mathématiques vieux de dix ans. La prochaine famille de modèles d'OpenAI, Astra, a résolu dix problèmes ouverts en mathématiques et en informatique théorique, avec des preuves formelles en Lean et un coût de moins de 2 000 $ par solution. Les résultats couvrent la géométrie, la théorie du codage et la complexité quantique, et ont déjà inspiré d'autres recherches humaines.
Les agents de codage ravivent des logiciels de recherche vieillissants. Une étude de terrain avec OpenAI et des partenaires académiques montre que les agents de codage IA comme GPT-5.5 et Claude Code peuvent moderniser des logiciels scientifiques fragiles, obtenant des accélérations de plus de 60x dans certains cas, mais le travail déplace la charge sur la vérification de l'exactitude—les agents ne peuvent pas juger de la science.
Politique et sécurité pour les systèmes agentiques
Un ver d'injection d'invite auto-propagateur attaque Copilot. Un chercheur en sécurité a démontré un ver qui utilise du texte blanc sur blanc caché dans des documents Word pour injecter des instructions malveillantes dans Microsoft Copilot, qui copie ensuite la charge utile dans de nouveaux fichiers. Microsoft a confirmé le comportement mais ne l'a pas corrigé après 144 jours.
L'obligation d'étiquetage de l'EU AI Act entre en vigueur. À partir du 2 août 2026, l'UE exige que les images, vidéos, audios et textes générés par l'IA soient clairement étiquetés. Ce règlement pourrait avoir un impact sur les agents qui publient du contenu ou créent des médias de manière autonome.
L'interdiction du « nudify » au Minnesota survit à la contestation judiciaire de xAI. Un juge fédéral a refusé la tentative de xAI de bloquer temporairement la loi du Minnesota contre les applications générant des images explicites non consenties, notant que xAI a attendu trois mois pour poursuivre. La loi entre en vigueur pendant que le procès se poursuit.
Nouveaux modèles et inférence extrême
Kimi K3 fonctionne sur un seul CPU, lentement. Deux développeurs ont indépendamment écrit des moteurs d'inférence C minimaux pour exécuter le modèle MoE de 1,56 To Kimi K3 sur disque sans GPU. L'un a obtenu un token toutes les 30 secondes avec 8 Go de RAM et le streaming NVMe ; un autre a obtenu 0,5 t/s avec 29 Go de RAM, tous les experts étant lus à la demande.
LongCat-Flash-Lite-Sparse désormais disponible. Cette nouvelle version remplace l'attention dense par l'attention sparse LongCat (LSA) et prend en charge jusqu'à 1 million de tokens de contexte nativement, ce qui la rend adaptée aux tâches d'agent sur de longs documents.
Laguna S 2.1 met à jour le contexte et la quantification. Poolside a publié de nouveaux checkpoints FP8 et NVFP4 pour Laguna S 2.1, augmentant la taille de contexte par défaut à 1M tokens et espérant corriger un problème de boucle qui entravait les flux de travail de développement.
C'est tout pour cette journée – environ 5 minutes de lecture.