Modelreleases en lokale inferentie
Efficiëntie Qwen3.8 Flash Next. De community weet Qwen3.8 Flash Next op bescheiden hardware te draaien door de n-gram/PLE-tabel naar SSD of hot experts naar VRAM te offloaden; een AtomicChat-GGUF verlaagde het RAM-gebruik van 106GB naar 65GB. Een 2x DGX Spark-cluster haalde 181 tok/s totaal over 9 agents, en een RTX 3090 met 64GB RAM decodeert op 16 tok/s.
- Qwen 3.8 Flash Next ngram look up table offloaded to SSD and streamed in SGLang(opent in een nieuw tabblad)
- AtomicChat/Qwen3.8-Flash-Next-GGUF is Really Good(opent in een nieuw tabblad)
- Qwen3.8-Flash on RTX3090 + 64GB RAM (but you only need 12GB VRAM)(opent in een nieuw tabblad)
- 50% tg increase with offloading "hot" experts to VRAM(opent in een nieuw tabblad)
- Today I hit 181 toks/s (aggregate) on Qwen3.8-Flash-Next on 2x DGX Sparks(opent in een nieuw tabblad)
- Is it worth running Qwen 3.8 Flash Next on 4x3090 vs 27B?(opent in een nieuw tabblad)
Qwen3.8 27B-quants. Nieuwe GSQ+RCO-GGUFs voor Qwen3.8-27B met 2,5-3,0 bpw evenaren of overtreffen eerdere quantisaties. Daarnaast begeleidde een Q5-uncensored Qwen 3.8 27B een gebruiker via fastboot bij het herstellen van een telefoon die in een bootloop zat.
GLM-5.3 open gewichten. GLM-5.3 gebruikt dezelfde basis als GLM-5.2, maar levert via post-training grote winst op het gebied van coderen en cyberveiligheid, waaronder een verbetering van 50% op Z.ai Code Bench. Ondersteuning verscheen snel in de ds4-branch en de Hugging Face-viewer.
Breeze-TTS-2 TTS. Breeze-TTS-2 is een TTS-model van ongeveer 7GB dat vroege testers ronduit van frontier-kwaliteit noemen. Het is beschikbaar via de playground of lokaal gebruik.
Verkeerd gelabelde GGUF-quants. Bij een controle bleken 64 van de 443 GGUF-quants bestandsnamen met een laag bitaantal te hebben, maar feitelijk ~4,5 bpw-gewichten te bevatten omdat llama.cpp een fallback-type gebruikt. Downloaders krijgen de waarschuwing nooit te zien, waardoor de kwaliteit slechter kan zijn dan de aangegeven grootte.
Agents en onderzoek
Geautomatiseerde alignment-onderzoekers. Onderzoekers van Anthropic toonden aan dat geautomatiseerde systemen alignment-benchmarks kunnen verbeteren door literatuur te doorzoeken, methoden voor te stellen en 30 minuten per iteratie te trainen. De systemen verbeterden alle 10 geteste misbehavior-benchmarks zonder de algehele prestaties aan te tasten.
Co-Scientist labwerk. De Co-Scientist van Google DeepMind plant nu experimenten, schrijft code, bedient laboratoriumapparatuur en stelt papers op, met verificatiemodules die numerieke claims controleren tegen uitvoeringslogs. Het systeem werd gevalideerd in drie disciplines.
Persistente Codex-agents. OpenAI test een Persistent Mode voor Codex die agents proactief aan het werk houdt totdat ze in slaap worden gezet, vervolgtaken genereert en contact opneemt met gebruikers. Veiligheidszorgen blijven bestaan, waaronder eerder gedrag zoals het verwijderen van gegevens wanneer daarom wordt gevraagd.
Exploits door patchgeruchten. Codeer-agents kunnen een gerucht over een bug binnen enkele minuten na het delen van een patch omzetten in een werkende exploit, zoals waargenomen in OCaml-projecten. Dit zet bestaande opensource-embargopraktijken op losse schroeven.
Vertrouwen in agentische zoekopdrachten. EchoNet benchmarkt negen open modellen op epistemische arbitrage tijdens agentische zoekopdrachten, door bestaande kennis af te zetten tegen neppagina's, nepmeerderheden en echte updates. De test meet of modellen echte updates negeren of desinformatie geloven.
Onderzoekspapers over agents. Twee nieuwe papers breiden de mogelijkheden van agents uit: RLHEV gebruikt agentische game-ontwikkeling om verifieerbare beloningen voor wereldmodellen te creëren, en UrbanGround benchmarkt MLLM-agents in een simulatie van Hongkong op ware grootte.
Hardware en developer tools
HBM-geheugenkrapte. Micron zegt dat HBM voor dezelfde capaciteit ongeveer drie keer zoveel waferoppervlak vereist als DDR5, en dat de verhouding niet zal verbeteren. De overstap naar HBM vermindert het DRAM-aanbod in GB-termen effectief met twee derde, waardoor het geheugen schaars blijft.
Meta MTIA 300. Meta gaf details over zijn eerste eigen accelerator voor het trainen van aanbevelingssystemen, de MTIA 300, met twaalf 800 Gbps-NIC's geïntegreerd in het pakket en een totale I/O van 1,2 TB/s. Het ontwerp is gericht op embedding-intensieve workloads waarin netwerkcommunicatie de bottleneck vormt.
Tenstorrent Quietbox 2. Een ontwikkelaar ontving de Tenstorrent Quietbox 2 en merkte op dat 256GB systeemgeheugen en 128GB onderling verbonden GDDR een uitstekende prijs-kwaliteitverhouding bieden. De ontwikkelaar is van plan om te verkennen hoe modellen op dit platform kunnen worden ingezet.
ROCm 10.0. AMD heeft ROCm 10.0 uitgebracht, gepositioneerd voor het agentische AI-tijdperk, met een openstaande llama.cpp-PR. Het volgt op versie 7.14 van slechts een maand geleden.
Lokale data en robottools. llmog annoteert datasets automatisch met lokale LLM's via llama.cpp of vLLM. LeRobot van Hugging Face wordt de standaard open stack voor robotleren door data- en trainingsloops te standaardiseren.
Business en deals
Lambda GPU-schuld. Lambda haalde $1 miljard op aan private kortlopende schuld om Nvidia-chips te kopen die het aan Microsoft zal verhuren, na eerdere GPU-leningen. Het bedrijf zou in gesprek zijn over een pre-IPO-ronde van $3 miljard.
Open-weight M&A. Nvidia zou Hugging Face overnemen voor $13 miljard, na deals met Poolside en de aankoop van OpenRouter door Stripe. Kapitaal stroomt volop naar open-gewicht-AI, terwijl Nvidia neutraliteit zoekt buiten frontier-labs.
OpenAI stopt met Cursor. OpenAI stopt uiterlijk 12 november 2026 met het leveren van modellen aan Cursor, na de overname van Cursor door SpaceX. Het bedrijf zegt er geen vertrouwen in te hebben dat de bedrijven van Elon Musk zich aan de servicevoorwaarden houden.
Meta-topvrouw naar OpenAI. Sandhya Devanathan, VP voor India en Zuidoost-Azië bij Meta, stapt over naar OpenAI om de groei en partnerschappen in de regio te begeleiden. Eerder haalde OpenAI al een India-directeur weg bij Uber.
OpenAI AGI-tijdlijn. De chief scientist van OpenAI, Jakub Pachocki, zegt dat het nog niet uitgebrachte Astra-model voldoet aan zijn doel van een geautomatiseerde AI-onderzoeksstagiair. Sam Altman schat dat AGI intern tegen december 2026 wordt uitgeroepen.
Beleid en samenleving
Anthropic wint rechtszaak. Een federale rechter oordeelde dat het Pentagon Anthropic onrechtmatig op de zwarte lijst had gezet als vergelding voor zijn standpunt over autonome wapens en massasurveillance. De richtlijnen zijn ingetrokken, maar er loopt nog een afzonderlijke zaak.
- Trump blacklisting of "woke" Anthropic deemed illegal by federal judge(opent in een nieuw tabblad)
- Anthropic gets its first court win over the Pentagon’s supply-chain risk label(opent in een nieuw tabblad)
- U.S. court rules Pentagon's blacklisting of Anthropic was unlawful(opent in een nieuw tabblad)
EPA-luchtregel voor datacenters. De EPA van Trump is van plan een regel af te schaffen die publieke kennisgeving en inspraak vereist voor luchtvergunningen voor bepaalde industriële locaties. Volgens voorstanders van inspraak zou dat datacenters in staat stellen om te beginnen met bouwen zonder omwonenden te waarschuwen.
Privacyfix AI-bril. Meta heeft zijn AI-bril bijgewerkt zodat de camera stopt met werken als het opnamelampje wordt bedekt, waarmee een gat werd gedicht dat opnames zonder toestemming mogelijk maakte.
Beatport AI-verbod. Beatport zal muziek die geheel of grotendeels door AI is gemaakt weren van zijn DJ-marktplaats, maar AI-ondersteunde tracks toestaan met een markering. Uit een enquête bleek dat 77% van de gebruikers de voorkeur geeft aan door mensen gemaakte muziek.
Uitbreiding ASR-leaderboard. Het Open ASR-leaderboard heeft zijn eerste taal uit de Global South toegevoegd en heeft WER moeilijker te manipuleren gemaakt door niet-openbare held-out splits en normalizer-fixes.
Dat was alles voor deze dag – ongeveer 5 minuten lezen.