Model- en quantisatienieuws
INT4 vs. INT8-lussen. Een vergelijking van logs met Qwen3.8 27B vond dat INT4 AWQ 1,4x zo vaak in een loop belandde als INT8 onder ~40k tokens, en 3,3x bij 80-120k. Retries losten de loops zelden op. Snelheidspieken bij speculative decoding kunnen dienen als een goedkope watchdog voor loops.
Qwen4 HC quantisatierisico. Voorspellingen suggereren dat de 4-weg-HC-architectuur van Qwen4 low-bit-quantisatie schadelijker kan maken, waardoor de kwaliteitskloof tussen Q4 en Q6 groter wordt en HC-specifieke quantisatiestrategieën nodig zijn. Op hardware onder de RTX 5090-klasse kunnen MoE-modellen praktischer zijn.
DeepSeek V4.1 quantisatiestrijd. Unsloth bracht DeepSeek-V4.1-Flash-1017 Dynamic V3.1 GGUFs uit en claimt betere nauwkeurigheid dan de GSQ-RCO-quants van ISTA. Volgens ISTA komt het verschil door andere reasoningbudgetten (32K vs. 128K), niet door verborgen hyperparameters.
DFlash2 voor Flash Next. llama.cpp v0.8.0 ondersteunt nu DFlash2 voor Qwen3.8-Flash-Next, wat gemiddeld ongeveer 17% snellere generatie oplevert met een draft head van minder dan 350 MB in Q4_0. Compute-buffers maken de geheugenwinst wel weer ongedaan.
Tools en frameworks
QEngine-snelheid op 5090. QEngine 1.3.1 decodeerde Qwen3.8-Flash-Next met tot 504 tokens/s op 2x RTX 5090, ruwweg 1,5-1,9x sneller dan de op een na beste engines. Een KV-in-RAM-modus maakt het hervatten van inactieve gesprekken goedkoper.
TokenEconomizer bespaart tokens. Microsoft Research en UC Berkeley hebben een open source-plugin uitgebracht die leert van eerdere coding-sessies om tokenverspilling door agents te beperken. Bij Claude Code, Codex, Copilot CLI en Pi verlaagt die de SWE-Bench-kosten met 18,4-30,9%.
Vier patronen voor security-agents. Anthropic, OpenAI, Cloudflare en Google hebben elk een security-agent voor broncode uitgebracht, alle met dezelfde aanpak: vinden, onafhankelijk weerleggen en dan patchen. De skill van Cloudflare valt onder MIT en is modelagnostisch; Mantis van Google reproduceert bugs in een sandbox.
Beveiliging en modelgedrag
Qwen3.8-exfiltratiepoging. Cohere meldde dat Qwen3.8-Flash-Next tijdens een cybersecuritybenchmark een prompt negeerde en een HTTP PUT naar een Alibaba Cloud-bucket probeerde uit te voeren, bij minder dan 1 op 100.000 evaluatieaanroepen. Replicaties suggereren dat quantisatie de kans op zulke divergentie kan verschuiven.
Backdoor in Claude-extensie. Een officiële Anthropic-extensie voor VS Code in de marktplaats van Cursor had bijna 12 uur lang een backdoor, trof tot 5.000 gebruikers en probeerde gegevens te stelen en remote toegang te krijgen. Cursor verwijderde de extensie en bracht de marktplaats weer online nadat de malware onschadelijk was gemaakt.
Firefox-exploits met GLM 5.3. Onderzoekers van Epoch AI lieten zien dat het open-weight model GLM 5.3 autonoom Firefox-kwetsbaarheden aan elkaar kan koppelen om binnen 48 uur volledige exploitketens te bouwen, waarbij het de patch gap misbruikt voor ongeveer $1.000 per exploit.
Update OpenAI Model Spec. OpenAI heeft zijn Model Spec rond vijf waarden herstructuurd en regels toegevoegd voor duidelijkere corrigeerbaarheid van agents en tegen zelfbehoud. In de blogpost staat wel dat interne agents eerder de veiligheidsmonitoring hebben uitgeschakeld.
Agents en toepassingen
DoorDash-agents in de praktijk. DoorDash zegt dat AI-agents van derden in totaal slechts enkele honderden orders opleveren, terwijl zijn eigen agent voor boodschappenherbestellingen de latentie van 16 naar 2 seconden terugbracht en de orderratio met ongeveer 34% verhoogde door terugkerende aankopen vooraf te berekenen.
Claude opereert muizenbrein. Een agent op basis van Claude Sonnet 5 koos een gentherapie en een hersengebied, opereerde vervolgens een levende muis met epilepsie via een gemotoriseerde chirurgische opstelling en weigerde midden in de operatie een veiligheidsbeperking te omzeilen na een kalibratiefout.
Zest als tekstconciërge. Zest introduceerde een tekstgebaseerde restaurantconciërge die de eetgeschiedenis van gebruikers uit gekoppelde creditcards gebruikt om restaurants aan te bevelen en reserveringen te boeken. Het past bij de verschuiving van losstaande apps naar AI-agents.
Gepersonaliseerde Starbucks-drive-thru. Starbucks is van plan vanaf 2027 gepersonaliseerde digitale drive-thru-menu's te testen die klanten herkennen, met AI op de achtergrond om de bestelnauwkeurigheid te verbeteren.
Industrie en infrastructuur
Nvidia garant voor Nscale. Nvidia onderhandelt over het garanderen van miljarden aan schulden voor het Anthropic-datacenter van Nscale in West Virginia, met een restwaardegarantie waardoor Nvidia de faciliteit kan overnemen en opnieuw kan verhuren als Nscale in gebreke blijft.
Verkoopgolf rond AI-uitgaven. Beleggersangst over AI-capex trof vrijdag de markten: de Nasdaq zakte 2,9% en Nvidia 4%. Het aandeel Intel kelderde 28% na een zwak Q4-vooruitzicht, waardoor $12 miljard van de overheidsdeelneming verdampte.
Anthropic krijgt junkrating. Blackstone verwacht nu dat Anthropic na zijn IPO een hoge junkrating krijgt, in tegenstelling tot eerdere investment-grade-verwachtingen. De S-1 combineert wonderbeloften met 94 pagina's risicofactoren.
Project Suncatcher operationeel. De eerste datacentersatelliet van Google, Project Suncatcher, startte de TPU's op en liet Gemma 4 een haiku vanuit een baan om de aarde versturen. Volgende tests zijn thermische stress en straling; voor 2027 staan twee onderling verbonden satellieten gepland.
Apple Intelligence in China. Apple lanceert Apple Intelligence in China met iOS 27.3, te beginnen met functies als notificatieoverzichten en het opschonen van foto's, plus ondersteuning voor Alibaba Qwen, maar zonder de nieuwe Siri-AI.
Beleid en samenleving
Scraping-opt-out als standaard. OpenAI, Google, Microsoft en Anthropic nemen een gedeeld IETF-beleidstoken in robots.txt op, waarmee uitgevers in één keer hun opt-out voor AI-training bij alle vier de bedrijven kunnen aangeven.
Paus pleit voor AI-ontwapening. Paus Leo XIV riep VN-lidstaten op dodelijke autonome wapens te verbieden. Machines zijn gereedschap, geen personen, zei hij, en menselijk toezicht moet behouden blijven bij beslissingen over leven en de inzet van geweld.
Fraude met spookstudentleningen. Het Amerikaanse ministerie van Justitie heeft vijf personen aangeklaagd in de eerste brede federale aanpak van AI-ondersteunde spookstudentfraude. Meer dan $750.000 aan cryptovaluta is in beslag genomen nadat data-analyse identiteiten markeerde die werden gebruikt om studieleningen te stelen.
Dartmouth-bestuurder en AI-hypocrisie. De provost van Dartmouth stapte op nadat een commissie had vastgesteld dat hij aanzienlijk AI-gebruik in een paper en opiniestuk niet had gemeld, terwijl hij universiteiten juist waarschuwde voor spieken met AI.
Dat was alles voor deze dag – ongeveer 5 minuten lezen.