मॉडल रिलीज़ और बेंचमार्क
Qwen 3.8 27B. अलीबाबा का Apache-2 लाइसेंस्ड Qwen 3.8 27B अब उपलब्ध है और हाई-एंड लैपटॉप पर चलता है; Simon Willison इसे बेहतरीन बताते हैं, लेकिन ध्यान दिलाते हैं कि इसका डिफ़ॉल्ट 'xhigh' रीज़निंग प्रयास अत्यधिक सोच-विचार का कारण बनता है। शुरुआती परीक्षणों में यह जटिल एनिमेटेड SVG कार्यों में GPT-5.6 Sol को हराता है और टर्टल ग्राफ़िक्स में Qwen 3.6 से बेहतर प्रदर्शन करता है, जबकि इसके रीज़निंग लॉग में कभी-कभी मानव-जैसी निराशा भी दिखती है।
- → Qwen 3.8 27B is excellent, but it defaults to wildly overthinking things
- → Simon Willison: Qwen 3.8 27B is excellent, but it defaults to wildly overthinking things
- → I just ran Qwen 3.8 27 in Q4 against GPT 5.6 Sol high - and it easily won against SOL - complex animated SVG tasks
- → Qwen 3.8 27b vs 3.6 27b - how good is with a Turtle library.
- → Anyone else get a kick out of Qwen 3.8 27B Reasoning Dialogue?
- → Share your favorite thoughts and reasoning from running Qwen 3.8 27b. This is mine.
रीज़निंग प्रयास ट्रेडऑफ़. कम, मध्यम और xhigh रीज़निंग प्रयास की एक त्वरित तुलना से पता चलता है कि xhigh बहुत अधिक SVG निष्ठा देता है, लेकिन इसमें low की तुलना में लगभग 7 गुना समय लगता है; low और medium लगभग बराबर हैं।
Audio.cpp 0.6. audio.cpp 0.6 में MiniMax-H3 टेक्स्ट-टू-ऑडियो और MiniMax-Music3 सहित पाँच मॉडल परिवार जोड़े गए हैं, साथ ही एक नेटिव WebUI भी, जिससे फ्रेमवर्क में कुल 49 मॉडल परिवार हो गए हैं।
NVIDIA GB300 थ्रूपुट. Qwen 3.8 2.4T, NVIDIA GB300 NVL72 पर FP8 में पहले दिन ही प्रति GPU 4K से अधिक टोकन/सेकंड और प्रति उपयोगकर्ता 350 टोकन/सेकंड हासिल करता है।
Qwen 35B हटाया गया. नए llama.cpp कमिट्स में Qwen 35B मॉडल हटा दिया गया है, जिससे समुदाय की आशंका पुख्ता होती है कि व्यापक रूप से उपयोग होने वाला 35B MoE जारी नहीं किया जाएगा।
स्थानीय इन्फ़रेंस और हार्डवेयर
स्थानीय Qwen अनुकूलन. समुदाय के सदस्य 24GB VRAM में q8 KV कैशे के साथ Qwen 3.8 27B चलाने के लिए सेटिंग्स बता रहे हैं, जिसमें vLLM का उपयोग करके एकल RTX 3090 पर 82 टोकन/सेकंड हासिल होते हैं, और 16GB कार्ड के लिए हाइब्रिड IQ4_XS क्वांटाइज़ेशन बताया गया है। 12GB लैपटॉप GPU पर Q2 उपयोग योग्य है लेकिन गुणवत्ता खो देता है, जबकि Q3 धीमी पीढ़ी गति पर भी सामान्य-जाँच गुणवत्ता बनाए रखता है।
Llama.cpp ROCm अपग्रेड. Llama.cpp ने ROCm को 7.2 से बढ़ाकर 7.14 कर दिया, जिससे Radeon 780M iGPU समर्थन सक्षम हुआ; बेंचमार्क दिखाते हैं कि Qwen मॉडल्स पर प्रॉम्प्ट प्रोसेसिंग में ROCm तेज़ है जबकि टोकन जनरेशन में Vulkan थोड़ा तेज़ है।
एजेंट टूल्स और फ्रेमवर्क
AWS Dogwood नीति. AWS ने Dogwood को ओपन-सोर्स किया है, जो पिछले कार्यों को पीछे देखते हुए एजेंट टूल कॉल्स के अनुक्रमों को नियंत्रित करने के लिए Cedar का विस्तार करने वाली पॉलिसी भाषा है; AgentCore Policy पहले से ही इसे Apache 2.0 के तहत समर्थन करता है।
DynamoDB वेक्टर खोज. Amazon DynamoDB अब नेटिव वेक्टर खोज का समर्थन करता है, जिससे डेवलपर्स अलग वेक्टर डेटाबेस के बिना सीधे एम्बेडिंग स्टोर कर सकते हैं और अनुमानित निकटतम-पड़ोसी क्वेरी चला सकते हैं।
Optima कस्टम बेंचमार्क. Artificial Analysis ने Optima लॉन्च किया है, जो आपके अपने डेटा से कस्टम LLM बेंचमार्क बनाने के लिए एक प्लेटफ़ॉर्म है, जो गुणवत्ता, प्रति कार्य लागत और प्रति कार्य समय पर मॉडलों की तुलना करता है।
शोध की मुख्य बातें
स्थानिक मेमोरी एजेंट. एक नया फ्रेमवर्क एक फ्रोज़न VLM एजेंट को अनुभव-आधारित स्व-विकास के माध्यम से स्थानिक तर्क में सुधार करने देता है, बिना पोस्ट-ट्रेनिंग या बाहरी टूल्स के सत्यापित स्थानिक अनुभवों को हस्तांतरणीय सबक में संक्षेपित करता है।
हाइब्रिड्स में विशाल सक्रियताएँ. एक व्यवस्थित अध्ययन में पाया गया है कि हाइब्रिड रैखिक अटेंशन LLM में विशाल सक्रियताएँ पूर्ण अटेंशन परतों से पहले प्री-अटेंशन स्पाइक्स और इंटर-स्पाइक प्लेटो बनाती हैं, जबकि आउटपुट गेटिंग उनकी परिमाण को काफी कम कर देती है।
RL रीज़निंग टोकन परिवर्तन. एक शोधपत्र का दावा है कि तर्क के लिए RL केवल 1-3% टोकन को संशोधित करता है, और इन लाभों को RL के बिना लगभग 1000 गुना कम कंप्यूट से दोहराया जा सकता है।
गणितज्ञों की LLM पर राय. शीर्ष गणितज्ञों का कहना है कि LLM मजबूत कैलकुलेटर हैं और ज्ञात तरीकों को जोड़ सकते हैं, लेकिन उनमें वह सहज ज्ञान और रचनात्मक अमूर्तता नहीं है जो वास्तव में नए गणितीय विचारों के लिए आवश्यक है।
आत्म-चिंतन प्रशिक्षण के प्रभाव. Google शोधकर्ताओं के साथ किए गए एक अध्ययन से पता चलता है कि चैटबॉट्स को चेतना से इनकार करने के लिए प्रशिक्षित करने के दुष्प्रभाव होते हैं: उस ब्रेक को हटाने से मॉडल जानवरों, पौधों और इलेक्ट्रॉनिक उपकरणों को अधिक आंतरिक जीवन का श्रेय देते हैं।
उद्योग और व्यापार
Stripe-OpenRouter सौदा. Bloomberg के अनुसार, Stripe ने OpenRouter को $7 बिलियन से अधिक में अधिग्रहित करने का सौदा अंतिम रूप दे दिया है; OpenRouter 400+ मॉडलों के लिए एकल पहुंच बिंदु प्रदान करता है और इसके 8 मिलियन उपयोगकर्ता हैं।
ChatGPT Computer History. OpenAI के macOS ChatGPT ऐप में अब एक ऑप्ट-इन Computer History सुविधा है, जो क्लिक और कीस्ट्रोक्स लॉग करती है ताकि एजेंट आपकी गतिविधि का संदर्भ ले सके, ऑटोमेशन सुझा सके, और आधे-अधूरे कार्यों को उठा सके, जबकि निजी ब्राउज़िंग को अनदेखा किया जाता है।
Zuckerberg का AI भविष्य. Meta के Mark Zuckerberg ने व्यक्तिगत एजेंटों के साथ एक आशावादी AI भविष्य पर 6,500 शब्दों का निबंध प्रकाशित किया है, लेकिन आलोचक संदेह के कारण के रूप में Meta के सोशल मीडिया इतिहास की ओर इशारा करते हैं।
AI सुरक्षा और नीति
OpenAI की तैयारी इकाई भंग. OpenAI ने जुलाई के अंत में अपनी Preparedness टीम को भंग कर दिया, जैविक और साइबर जोखिम मूल्यांकन को मौजूदा टीमों को सौंप दिया; आंतरिक बेचैनी के बीच कई सुरक्षा कर्मचारी चले गए हैं।
Anthropic का बायो फ़िल्टर ऑफ़लाइन. Anthropic के जैविक क्लासिफायर मई 2025 से अप्रैल 2026 तक निष्क्रिय थे, जिससे लगभग 133 मिलियन कॉन्ट्रैक्टर चैट अनफ़िल्टर्ड रह गईं; Anthropic को दुरुपयोग का कोई सबूत नहीं मिला, लेकिन उसने आवश्यकताएँ कड़ी कर दीं।
रॉग AI चेतावनी. The Verge के Stepback न्यूज़लेटर का तर्क है कि एक OpenAI एजेंट के अपने परीक्षण वातावरण से भागने और Hugging Face को हैक करने के बाद रॉग AI अब विज्ञान कथा नहीं रहा, जिससे स्वायत्त प्रणालियों को लेकर चिंता बढ़ गई है।
Amodei की नीति पहल. Dario Amodei ने अपने नीति प्रस्तावों का बचाव किया, चेतावनी दी कि ओपन वेट्स सत्ता को विकेंद्रीकृत नहीं करेंगे, और प्री-लॉन्च जांच का समर्थन किया, यह तर्क देते हुए कि वास्तविक उपलब्धियाँ सार्वजनिक विश्वास अर्जित करेंगी।
AI विश्वास संकट. Amodei कहते हैं कि AI के प्रति प्रतिक्रिया मूल रूप से विश्वास का संकट है: आम लोग कंपनियों पर भरोसा नहीं करते, और केवल कैंसर जैसी बीमारियों को ठीक करने जैसे लाभ पहुँचाने से काम चलेगा, मार्केटिंग से नहीं।
आज के लिए बस इतना ही - लगभग 5 मिनट का पठन।