DeepSeek V4 Flash स्थानीय स्तर पर उपलब्ध: गति, क्वांट्स और एजेंट की विचित्रताएँ
बुद्धिमत्ता मार्च 2026 के स्तर के बराबर. DeepSeek V4 Flash (0731) 50 का इंटेलिजेंस इंडेक्स स्कोर प्राप्त करता है, जो पाँच महीने पहले के फ्रंटियर मॉडल के 51 के लगभग बराबर है। उपभोक्ता हार्डवेयर पर, यह उपयोग योग्य गति से चलता है: RTX PRO 6000 eGPU पर 44 t/s, तीन MI50s पर 15 t/s, और RAM ऑफलोडिंग के साथ दो RTX 3060s पर भी 4.5 t/s, बेहतर क्वांटाइज़ेशन और आंशिक ऑफलोडिंग के कारण।
- DeepSeek-V4-Flash-0731: Models you can run locally now have the intelligence score of the top frontier model from March 2026(नए टैब में खुलता है)
- DeepSeek-V4-Flash-0731 on Bosgame M5 with RTX PRO 6000 Max-Q eGPU(नए टैब में खुलता है)
- Ran DS V4-Flash-0731 Locally on 3xMI50 32GB @ ~15 t/s TG(नए टैब में खुलता है)
- DeepSeek V4 Flash 0731 IQ2_M benchmark for Dual 3060 and 96GB RAM ≈ 3.5 tok/s.(नए टैब में खुलता है)
टूल कॉलिंग ठीक हुई, नियम पालन अभी भी अविश्वसनीय. समुदाय द्वारा टूटी हुई टूल कॉल की रिपोर्ट के बाद, llama.cpp फिक्स मर्ज किया गया, और Unsloth Studio के लिए वर्कअराउंड साझा किए गए। हालाँकि, उपयोगकर्ता पाते हैं कि मॉडल अक्सर सिस्टम प्रॉम्प्ट और स्किल्स को अनदेखा करता है, उन्हें सख्ती से पालन करने के बजाय संपीड़ित सारांश के रूप में संग्रहीत करता है, जो उन एजेंट कार्यों के लिए इसकी विश्वसनीयता को कम करता है जिनमें सटीक निर्देश पालन की आवश्यकता होती है।
एजेंट मूल्यांकन और बेंचमार्क
Hermes एजेंटों के लिए सामुदायिक बेंचमार्क. LocalLLaMA उपयोगकर्ता Hermes जैसे एजेंट-सक्षम मॉडल के मूल्यांकन के लिए सर्वोत्तम बेंचमार्क पर चर्चा करते हैं, और कई महसूस करते हैं कि SWE-bench जैसे स्थापित लीडरबोर्ड उनके होम-असिस्टेंट या दस्तावेज़-प्रोसेसिंग वर्कफ़्लो पर लागू नहीं होते।
केवल-कोडिंग लीडरबोर्ड की आलोचना. अधिक विविध बेंचमार्क के आह्वान में तर्क दिया गया है कि हाल के लीडरबोर्ड कोडिंग कार्यों पर असमान रूप से ध्यान केंद्रित करते हैं, जिससे भाषा सीखना, रचनात्मक लेखन और STEM तर्क कम प्रतिनिधित्व प्राप्त करते हैं, और गैर-कोडिंग एजेंट उपयोग मामलों के लिए मॉडल प्रदर्शन का आकलन करना कठिन हो जाता है।
DIY डोमेन-विशिष्ट बेंचमार्क किट. एक Redditor ने 30 से अधिक छोटे, डोमेन-विशिष्ट परीक्षणों (जैसे, सामान्य ज्ञान, कार धोने का सिमुलेशन) और मॉडल प्रतिक्रियाओं की तुलना करने के लिए एक वेब टूल का संग्रह बनाया, जिसका उद्देश्य व्यापक बेंचमार्क और व्यक्तिगत उपयोग के मामलों के बीच की खाई को भरना है।
AI अनुसंधान और कोडिंग एजेंट
Astra ने दशक पुरानी गणित की समस्याएँ हल कीं. OpenAI का अगला मॉडल परिवार, Astra, ने गणित और सैद्धांतिक कंप्यूटर विज्ञान में दस पहले से खुली समस्याओं को हल किया, जिसमें औपचारिक Lean प्रमाण और प्रति समाधान $2,000 से कम की लागत थी। परिणाम ज्यामिति, कोडिंग सिद्धांत और क्वांटम जटिलता तक फैले हैं, और पहले ही आगे के मानव अनुसंधान को प्रेरित कर चुके हैं।
कोडिंग एजेंट पुराने शोध सॉफ्टवेयर को पुनर्जीवित करते हैं. OpenAI और शैक्षणिक भागीदारों के साथ एक फील्ड अध्ययन से पता चलता है कि GPT-5.5 और Claude Code जैसे AI कोडिंग एजेंट नाजुक वैज्ञानिक सॉफ्टवेयर को आधुनिक बना सकते हैं, कुछ मामलों में 60x से अधिक गति प्राप्त कर सकते हैं, लेकिन यह काम सत्यता की पुष्टि करने का बोझ बदल देता है—एजेंट विज्ञान का न्याय नहीं कर सकते।
एजेंटिक सिस्टम के लिए नीति और सुरक्षा
स्व-प्रसार प्रॉम्प्ट इंजेक्शन वर्म Copilot पर हमला करता है. एक सुरक्षा शोधकर्ता ने एक वर्म का प्रदर्शन किया जो Word दस्तावेज़ों में छिपे सफेद-पर-सफेद टेक्स्ट का उपयोग करके Microsoft Copilot में दुर्भावनापूर्ण निर्देश इंजेक्ट करता है, जो फिर पेलोड को नई फाइलों में कॉपी करता है। Microsoft ने व्यवहार की पुष्टि की लेकिन 144 दिनों के बाद इसे ठीक नहीं किया।
EU AI अधिनियम लेबलिंग अनिवार्यता शुरू. 2 अगस्त 2026 से, EU को आवश्यकता है कि AI-जनित छवियाँ, वीडियो, ऑडियो और टेक्स्ट स्पष्ट रूप से लेबल किए जाएँ। यह विनियमन उन एजेंटों को प्रभावित कर सकता है जो स्वायत्त रूप से सामग्री प्रकाशित करते हैं या मीडिया बनाते हैं।
मिनेसोटा का 'न्यूडिफाई' प्रतिबंध xAI की कानूनी चुनौती से बचा. एक संघीय न्यायाधीश ने xAI की उन ऐप्स के खिलाफ मिनेसोटा के कानून को अस्थायी रूप से रोकने की कोशिश को अस्वीकार कर दिया जो गैर-सहमति वाली स्पष्ट छवियाँ उत्पन्न करते हैं, यह देखते हुए कि xAI ने मुकदमा करने के लिए तीन महीने इंतजार किया। मुकदमा जारी रहते हुए भी कानून प्रभावी है।
नए मॉडल और चरम इंफेरेंस
Kimi K3 एकल CPU पर चलता है, धीरे-धीरे. दो डेवलपर्स ने स्वतंत्र रूप से 1.56 TB MoE मॉडल Kimi K3 को बिना GPU के डिस्क पर चलाने के लिए न्यूनतम C इंफेरेंस इंजन लिखे। एक ने 8 GB RAM और NVMe स्ट्रीमिंग का उपयोग करके हर 30 सेकंड में एक टोकन प्राप्त किया; दूसरे ने 29 GB RAM के साथ 0.5 t/s प्राप्त किया, सभी विशेषज्ञ मांग पर पढ़े जाते हैं।
LongCat-Flash-Lite-Sparse अब उपलब्ध. यह नया रिलीज़ घने ध्यान (dense attention) को LongCat Sparse Attention (LSA) से बदलता है और देशी रूप से 1 मिलियन टोकन तक के संदर्भ का समर्थन करता है, जिससे यह लंबे दस्तावेज़ वाले एजेंट कार्यों के लिए उपयुक्त हो जाता है।
Laguna S 2.1 संदर्भ और क्वांटाइज़ेशन अपडेट करता है. Poolside ने Laguna S 2.1 के लिए नए FP8 और NVFP4 चेकपॉइंट जारी किए, डिफ़ॉल्ट संदर्भ आकार को 1M टोकन तक बढ़ाया, और एक लूपिंग समस्या को ठीक करने की उम्मीद की जिसने विकास वर्कफ़्लो में बाधा उत्पन्न की थी।
इस दिन के लिए बस इतना ही – लगभग 5 मिनट का पाठ।