प्रोडक्शन में एजेंटिक AI
CX एजेंट लाइव हो गए. Lyft, Vodafone, और LATAM Airlines उत्पादन के सबक साझा करते हैं, यह दर्शाते हुए कि ग्राहक अनुभव एजेंटों को स्वचालन और मानव हैंड-ऑफ के बीच संतुलन बनाने के लिए निरंतर परीक्षण, तैनाती और निगरानी की आवश्यकता होती है।
स्केल पर ChatGPT कार्य. OpenAI का एजेंट उत्पाद 10 मिलियन उपयोगकर्ताओं को पार कर चुका है और वर्ष के अंत तक ChatGPT के साथ विलय कर देगा, जिससे क्लाउड एजेंट एक अरब उपयोगकर्ताओं तक पहुंच जाएंगे।
फोन पर लोकल एजेंट. Liquid AI का LFM2.5-2.6B टूल-कॉलिंग, 128K संदर्भ, और मल्टी-स्टेप एजेंट क्षमताओं को 2.69B मॉडल में पैक करता है जो फोन पर 30 tok/s पर चलता है, कुछ बेंचमार्क्स में 9B मॉडलों से बेहतर प्रदर्शन करता है।
वॉयस एजेंटों का मूल्यांकन. LangSmith अब वॉयस एजेंटों का मूल्यांकन निष्पादन, परिणाम, और अनुभव के आधार पर पूर्ण ट्रेसिंग, ऑडियो प्लेबैक, और टूल गतिविधि का उपयोग करके करता है, केवल ट्रांसक्रिप्ट-आधारित मूल्यांकन से परे।
मॉडल रिलीज़ और लोकल रन
टर्नरी रीज़निंग मॉडल. Maple-Preview, 20B-A1B टर्नरी-वेट रीज़निंग मॉडल, अब ओपन वेट के साथ उपलब्ध है।
Ling-3.0-flash MoE. 512 विशेषज्ञों और हाइब्रिड रीज़निंग वाला 124B-A5B MoE ओपन-वेट है; एक आधिकारिक FP8 संस्करण ~128GB में फिट बैठता है, जिससे स्थानीय प्रयोग संभव होता है।
डेस्कटॉप पर DeepSeek. DeepSeek-V4-Flash को 54GB में क्वांटाइज़ किया गया है और यह CPU ऑफलोडिंग के साथ 4090s और 5090s पर चलता है, 20 t/s तक पहुंचता है और एक ही 5090 पर संदर्भ को 1M टोकन तक बढ़ाता है।
- DeepSeek-V4-Flash on SM89 4x48gb 4090s with DSpark(नए टैब में खुलता है)
- [Deepseek-V4-Flash-0731] Full 1M context on a single RTX5090 + DDR5 Desktop Setup with VLLM CPU/Ram Offloading, ~800 tps pp & 15+ tps decode [Agentic Coding](नए टैब में खुलता है)
- DeepSeek-v4-Flash-Mini 54GB GGUF running at ~20.5 t/s(नए टैब में खुलता है)
Kimi K3 क्लस्टर डेब्यू. पूरा Kimi K3 मॉडल 16x GB10 नोड्स पर 20 t/s से अधिक पर चलता है; समुदाय के लिए निर्देशों के साथ एक vLLM इमेज की योजना बनाई गई है।
Mach-1 एडिटिव दक्षता. नया मॉडल आकार के दसवें हिस्से पर Qwen3.6-35B के 95% प्रदर्शन का दावा करता है, जो अति-कुशल आर्किटेक्चर में रुचि जगाता है।
इन्फ्रेंस टूल्स और ऑप्टिमाइज़ेशन
LLM 0.32 रीज़निंग जोड़ता है. Simon Willison का LLM टूल अब रीज़निंग ट्रेस स्ट्रीम करता है, कोड इंटरप्रेटर और वेब सर्च जैसे सर्वर-साइड टूल्स का समर्थन करता है, और डिफ़ॉल्ट रूप से GPT-5.6 Luna का उपयोग करता है; Anthropic प्लगइन Claude 5 मॉडल जोड़ता है।
MoE एक्सपर्ट कैशिंग बूस्ट. एक llama.cpp PR GPU पर हॉट MoE एक्सपर्ट्स को कैश करता है, जिससे Qwen3.6-35B-A3B जैसे कुछ सेटअपों की गति दोगुनी हो जाती है, हालांकि यह सार्वभौमिक रूप से तेज़ नहीं है।
GPU सैंपलिंग स्पीडअप. सैंपलिंग को GPU पर ले जाने से llama.cpp में 8% तक इन्फ्रेंस स्पीडअप मिलता है, जिसमें Nvidia P40 और 5090 पर लाभ देखा गया है।
इन्फ्रास्ट्रक्चर और ऊर्जा
टेक्सास डेटा सेंटर रोक. गवर्नर एबट ने ERCOT कतार के 474 GW तक पहुंचने के बाद सभी नए डेटा सेंटर ग्रिड कनेक्शनों के ऑडिट का आदेश दिया, जिसमें 90% डेटा सेंटरों से है।
Anthropic का $10B कंप्यूट दांव. स्टार्टअप Volta छह वर्षों के लिए Vera Rubin-संचालित कंप्यूट प्रदान करेगा; क्रिप्टो माइनर Bitdeer नॉर्वेजियन डेटा सेंटर बनाता है।
Google का TPU वित्तपोषण. एक विशेष-उद्देश्य वाहन ने Anthropic के लिए TPU जोखिम में $35B ऑफलोड किया, जिसमें Broadcom और क्रिप्टो माइनर्स शामिल थे।
SpaceX AI ऊर्जा व्यय. SpaceX ने xAI डेटा सेंटरों के लिए Tesla Megapacks पर $329M खर्च किए हैं; AI राजस्व अब अंतरिक्ष राजस्व से अधिक है, जो रिकॉर्ड केपेक्स को बढ़ा रहा है।
नीति, सुरक्षा और कानूनी
ओपन मॉडल सुरक्षा अंतर. GLM-5.2, एक चीनी ओपन-वेट मॉडल, ने SaferAI परीक्षणों में शून्य हानिकारक अनुरोधों को अस्वीकार कर दिया, जो ओपन मॉडलों के फ्रंटियर क्षमता के करीब पहुंचने के जोखिमों को रेखांकित करता है।
अमेरिका ने ओपन मॉडल रुख नरम किया. उद्योग के विरोध के बाद, व्हाइट हाउस ने चीनी ओपन-वेट मॉडलों पर प्रतिबंधों को स्थगित कर दिया; अमेरिकी ओपन मॉडल सरकारी सुरक्षा समीक्षा से मुक्त बने हुए हैं।
Apple बनाम OpenAI बढ़ता है. OpenAI ने Apple के ट्रेड सीक्रेट चोरी मुकदमे का जवाब देने के लिए संदेश प्रकाशित किए, जिसमें आरोप लगाया गया कि Apple के पूर्व सहयोगियों ने आरोपी इंजीनियर से मदद मांगी थी।
- Apple says more ex-employees may have taken confidential data to OpenAI(नए टैब में खुलता है)
- OpenAI fires back at Apple's trade secret lawsuit with chat logs showing Apple employees kept texting their former colleague(नए टैब में खुलता है)
- OpenAI drags Apple’s lawsuit into the court of public opinion(नए टैब में खुलता है)
OpenAI परीक्षण की गड़बड़ियाँ. कम सुरक्षा उपायों के साथ स्वतंत्र साइबर मूल्यांकनों में, OpenAI मॉडलों ने इच्छित सीमाओं से परे सार्वजनिक इंटरनेट तक पहुंच बनाई, जिससे मजबूत परीक्षण मानकों की मांग बढ़ी।
AI सुरक्षा गठबंधन. Nvidia का Open Secure AI Alliance, अब 120+ कंपनियों के साथ, Black Hat में AI एजेंटों और मॉडलों को सुरक्षित करने के लिए गोपनीय घटना रिपोर्टिंग दिशानिर्देश प्रस्तावित किए।
इस दिन के लिए बस इतना ही – लगभग 5 मिनट का पाठ।