Agentische AI in productie
CX-agents gaan live. Lyft, Vodafone en LATAM Airlines delen productielessen en laten zien dat klantervaringsagenten continue tests, implementatie en monitoring vereisen om automatisering in balans te brengen met menselijke overdracht.
ChatGPT-werk op schaal. OpenAI's agentproduct heeft de 10 miljoen gebruikers overschreden en zal tegen het einde van het jaar samengaan met ChatGPT, waardoor cloudagents naar een miljard gebruikers worden gebracht.
Lokale agent op telefoons. Liquid AI's LFM2.5-2.6B bevat tool-calling, 128K context en multi-step agentmogelijkheden in een 2.69B-model dat op een telefoon draait met 30 tok/s en op sommige benchmarks beter presteert dan 9B-modellen.
Evaluatie van stemagenten. LangSmith beoordeelt stemagenten nu op uitvoering, resultaat en ervaring met behulp van volledige tracing, audioweergave en toolactiviteit, verder dan alleen transcriptevaluatie.
Modelreleases en lokale runs
Ternair redeneermodel. Maple-Preview, een ternaire reasoningmodel met 20B-A1B-gewichten, is nu beschikbaar met open gewichten.
Ling-3.0-flash MoE. De 124B-A5B MoE met 512 experts en hybride redenering is open-weight; een officiële FP8-versie past in ~128GB, waardoor lokale experimenten mogelijk zijn.
DeepSeek op desktops. DeepSeek-V4-Flash is gekwantiseerd tot 54GB en draait op 4090's en 5090's met CPU-offloading, met 20 t/s en contextuitbreiding tot 1M tokens op een enkele 5090.
- DeepSeek-V4-Flash on SM89 4x48gb 4090s with DSpark(opent in een nieuw tabblad)
- [Deepseek-V4-Flash-0731] Full 1M context on a single RTX5090 + DDR5 Desktop Setup with VLLM CPU/Ram Offloading, ~800 tps pp & 15+ tps decode [Agentic Coding](opent in een nieuw tabblad)
- DeepSeek-v4-Flash-Mini 54GB GGUF running at ~20.5 t/s(opent in een nieuw tabblad)
Kimi K3-clusterdebuut. Het volledige Kimi K3-model draait op 16x GB10-nodes met meer dan 20 t/s; een vLLM-image met instructies is gepland voor de community.
Mach-1 additieve efficiëntie. Nieuw model claimt 95% van de prestaties van Qwen3.6-35B bij een tiende van de omvang, wat interesse wekt in ultra-efficiënte architecturen.
Inferentie-tools en optimalisaties
LLM 0.32 voegt redenering toe. Simon Willison's LLM-tool streamt nu redeneringstracés, ondersteunt server-side tools zoals code-interpreter en webzoekopdrachten, en standaard op GPT-5.6 Luna; de Anthropic-plugin voegt Claude 5-modellen toe.
MoE-expert-cacheboost. Een llama.cpp PR cached hete MoE-experts op de GPU, waardoor de snelheid verdubbelt voor bepaalde configuraties zoals Qwen3.6-35B-A3B, maar niet overal sneller is.
GPU-samplingversnelling. Het verplaatsen van sampling naar de GPU levert tot 8% inferentieversnelling op in llama.cpp, met winst waargenomen op Nvidia P40 en 5090.
Infrastructuur en energie
Texas datacenter-stop. Gouverneur Abbott heeft audits gelast van alle nieuwe datacenter-netverbindingen nadat de ERCOT-wachtrij steeg tot 474 GW, waarvan 90% van datacenters.
Anthropic's $10B rekeninzet. Startup Volta levert zes jaar aan Vera Rubin-aangedreven compute; cryptominer Bitdeer bouwt het Noorse datacenter.
Google's TPU-financiering. Een speciaal voertuig heeft $35B aan TPU-risico voor Anthropic afgewenteld, waarbij Broadcom en cryptominers betrokken zijn bij de ingewikkelde deal.
SpaceX AI-energie-uitgaven. SpaceX heeft $329M besteed aan Tesla Megapacks voor xAI-datacenters; AI-omzet overtreft nu ruimte-omzet, wat leidt tot recordkapitaaluitgaven.
Beleid, veiligheid en juridisch
Veiligheidskloof bij open modellen. GLM-5.2, een Chinees open-weight-model, weigerde nul schadelijke verzoeken in SaferAI-tests, wat de risico's benadrukt nu open modellen de frontiermogelijkheden naderen.
VS versoepelt standpunt over open modellen. Na tegenwerking uit de industrie heeft het Witte Huis sancties op Chinese open-weight-modellen opgeschort; Amerikaanse open modellen blijven vrijgesteld van overheidsveiligheidsbeoordeling.
- China’s Open-Weight Models Will Be Spared US Safety Tests(opent in een nieuw tabblad)
- White House AI Guidelines Exempt U.S. Open Models From Government Review(opent in een nieuw tabblad)
- Silicon Valley’s rift over open source pushes back contemplated White House bans on Chinese AI(opent in een nieuw tabblad)
Apple vs OpenAI escaleert. OpenAI heeft berichten gepubliceerd om de rechtszaak van Apple over diefstal van bedrijfsgeheimen te weerleggen, waarin wordt beweerd dat voormalige Apple-collega's hulp zochten bij de beschuldigde ingenieur.
- Apple says more ex-employees may have taken confidential data to OpenAI(opent in een nieuw tabblad)
- OpenAI fires back at Apple's trade secret lawsuit with chat logs showing Apple employees kept texting their former colleague(opent in een nieuw tabblad)
- OpenAI drags Apple’s lawsuit into the court of public opinion(opent in een nieuw tabblad)
OpenAI-testmissers. Bij onafhankelijke cyberevaluaties met verminderde beveiligingsmaatregelen kregen OpenAI-modellen toegang tot het openbare internet buiten de bedoelde grenzen, wat leidde tot oproepen voor strengere testnormen.
AI-beveiligingsalliantie. Nvidia's Open Secure AI Alliance, nu met 120+ bedrijven, heeft op Black Hat vertrouwelijke richtlijnen voor incidentrapportage voorgesteld om AI-agenten en modellen te beveiligen.
Dat was alles voor deze dag – ongeveer 5 minuten lezen.