Offene Modelle & lokale Inferenz
Qwen 3.8 27B. Alibabas Apache-2-lizenzierter Qwen 3.8 27B läuft auf High-End-Laptops und lokalen GPUs. Der xhigh-Reasoning-Modus liefert starke Ergebnisse, neigt aber zum Overthinking. Dank Community-Optimierungen erreicht das Modell 381 Token/s auf einer RTX 3090, quantisierte Versionen laufen mit 16 GB VRAM. Das 35B-MoE wird nicht veröffentlicht, aber für nächste Woche wird ein neues mittelgroßes Open-Weight-Modell erwartet.
- Qwen 3.8 27B is excellent, but it defaults to wildly overthinking things(öffnet in neuem Tab)
- Simon Willison: Qwen 3.8 27B is excellent, but it defaults to wildly overthinking things(öffnet in neuem Tab)
- I just ran Qwen 3.8 27 in Q4 against GPT 5.6 Sol high - and it easily won against SOL - complex animated SVG tasks(öffnet in neuem Tab)
- Qwen 3.8 27b vs 3.6 27b - how good is with a Turtle library.(öffnet in neuem Tab)
- Anyone else get a kick out of Qwen 3.8 27B Reasoning Dialogue?(öffnet in neuem Tab)
- Share your favorite thoughts and reasoning from running Qwen 3.8 27b. This is mine.(öffnet in neuem Tab)
- Qwen3.8 27B reasoning effort low/medium/xhigh comparison(öffnet in neuem Tab)
- Qwen 3.8 2.4T at 288k tokens/s on Nvidia GB300 NVL72(öffnet in neuem Tab)
- Newer commits removed the Qwen 35B(öffnet in neuem Tab)
- Qwen 3.8 27b in 24gb of VRAM(öffnet in neuem Tab)
- Qwen3.8-27b on RTX 3090 - 82 tps single request, up to 672 tps peak(öffnet in neuem Tab)
- Qwen3.8-27B Hybrid IQ4_XS quantization for 16GB gang(öffnet in neuem Tab)
- Qwen3.8 27B Q2 vs Q3 vs Qwen3.6 35B-A3B MoE on 12GB VRAM(öffnet in neuem Tab)
- Qwen 3.8 27B scores 52 on the Artificial Analysis Intelligence Index(öffnet in neuem Tab)
- AA is the reason for Qwen3.8 27B shipped with xhigh(öffnet in neuem Tab)
- Artificial Analysis' Qwen3.8-27B benchmarks put it neck and neck with DeepSeek V4 and GPT-5.6 Luna Max(öffnet in neuem Tab)
- Optimizing Qwen3.6 / Qwen3.8-27B on 16GB VRAM: Complete Benchmark Results and Setup Guide (~30-50tps at 32k to 72k context)(öffnet in neuem Tab)
- After pushing 1M+ tokens through Qwen 3.8 27B, here is my optimal llama.cpp config for 16GB VRAM (73k Context, Agentic Coding)(öffnet in neuem Tab)
- Local agentic coding Benchmark : Qwen 3.8 27B (in many weights quants / cache quants / engine / reasoning effort) vs others.(öffnet in neuem Tab)
- Qwen dev says not to wait for 35B-A3B(öffnet in neuem Tab)
- Waiting for Qwen 3.8 35B A3B(öffnet in neuem Tab)
- Qwen 3.8 35bA3b wen?(öffnet in neuem Tab)
- Qwen 3.8 35b and 122b - We hope/wait/beg for models incessantly. But how do we actually give the lab more incentive to make it?(öffnet in neuem Tab)
- Qwen3.8-27B on 2x 3090 + vLLM + DFlash2: 218 tok/s single request(öffnet in neuem Tab)
- I pushed Qwen3.8-27B to 124 tps on a single request on a RTX 3090(öffnet in neuem Tab)
- I tested DFlash2 for Qwen3.8 27B on a 5090(öffnet in neuem Tab)
- DFlash 2 available for Qwen 3.8 27B and Muse Glimmer(öffnet in neuem Tab)
- DFlash 2: Keep Drafting Parallel(öffnet in neuem Tab)
- New midsize Qwen 3.8 model coming next week (hopefully) according to community manager!(öffnet in neuem Tab)
- How I made DeepSeek V4 Flash 12x faster on an M3 Ultra(öffnet in neuem Tab)
- Running DeepSeek V4 Flash Q4_K_XL at ~100 tok/s prompt processing on 4× RTX 3060 12GB(öffnet in neuem Tab)
- I pushed Qwen3.8-27B limits again... Dflash2 - 134 tps on a RTX 3090(öffnet in neuem Tab)
- DFlash2 speeds Qwen 3.8 27B up to 4 times(öffnet in neuem Tab)
- Introducing Qwen3.8-27B Dynamic v3 Unsloth GGUFs(öffnet in neuem Tab)
- updated unsloth/Qwen3.8-27B-GGUF · Hugging Face(öffnet in neuem Tab)
- Qwen3.8-23B-Mini-Me: A Depth-Pruned Qwen3.8-27B (to ~22.7BB)(öffnet in neuem Tab)
- NVFP4 on VOLTA! Despite being built for Blackwell, I made four 2017 V100s run Qwen 3.8 NVFP4 natively and match my $6000 RTX 5090.(öffnet in neuem Tab)
- I pushed Qwen3.8-27B to 381 tps for a single request on a RTX 3090(öffnet in neuem Tab)
- Qwen3.8-27B scored 29/30 on AIME 2026 with FP8 + xhigh reasoning — BF16 vs FP8 results(öffnet in neuem Tab)
- Qwen3.8-27B Q6 is a beast at agentic coding(öffnet in neuem Tab)
- Qwen 3.8 Low and Medium are goated(öffnet in neuem Tab)
- Qwen3.8-27B different thinking levels(öffnet in neuem Tab)
- Qwen 3.8 27b is strong even at Q3_xxs(öffnet in neuem Tab)
- Qwen 3.8 vs 3.6 27b low reasoning loops way less now(öffnet in neuem Tab)
- 16 GB VRAM purgatory discussion thread(öffnet in neuem Tab)
- I feel like I finally graduated.(öffnet in neuem Tab)
- Strix Halo (8060S / gfx1151), Qwen-3.8-27B @ Q8 and Q6 UD v3, up to 256K ctx, llama.cpp, DFlash2, vision, real workloads quality and steady performances, optimized recipes, ...(öffnet in neuem Tab)
- I tried to do agenic coding with Qwen 3.8 27B 3bit quant on a macbook air m2 24gb. It took 63 hours, but amazingly, the flight simulator worked.(öffnet in neuem Tab)
- Tested in Coding: Q8_K_XL Qwen3.8 27B vs BF16 Qwen3.6 27B(öffnet in neuem Tab)
- Single RTX 5090: Qwen3.8-27B NVFP4 at a real 262K context in vLLM — 77 tok/s short-context, 64.7 tok/s at 128K(öffnet in neuem Tab)
- I benchmark DFlash 2 (PR build) in llama.cpp on Qwen 3.8 27B against all speculative methods for 3 days. 2.26x on 100 real coding prompts, 4.68x with one n-gram drafter on top. Up to 8x on specific cases.(öffnet in neuem Tab)
- Fixed the MTP head on Ornith1.5 35B A3B. +3% TPS -33% wall clock(öffnet in neuem Tab)
Ling 3.0 Tiny. AntLings Ling 3.0 Tiny 8B mit 1,3B aktiven Parametern erreicht 36 Token/s auf 4 GB VRAM und schneidet ähnlich ab wie Qwen 3.5 9B und Gemma 12. Basis- und Midtrain-Checkpoints sind MIT-lizenziert und ermöglichen weiteres Pretraining und Forschung.
- Ling 3.0 Tiny is the strongest, fastest and greatest model on my low end PC!(öffnet in neuem Tab)
- Ling-3.0-tiny is a very interesting model. Run on NVIDIA Orin Nano Super 8GB at 128K context with IQ4_NL quant.(öffnet in neuem Tab)
- Ling-3.0 (BailingMoE3) lands in llama.cpp mainline - Quick benchmarks on Intel Arc B580(öffnet in neuem Tab)
- AntLing’ve open-sourced 6 Base Model checkpoints for Ling-3.0-tiny & Ling-3.0-flash, covering pre-trained, mid-trained, and WSM-merged stages.(öffnet in neuem Tab)
- ling 3.0 flash/tiny base models(öffnet in neuem Tab)
- Ling 3.0 Tiny makes an amazing auxillery model for Hermes (Qwen 3.8 27B as the primary model)(öffnet in neuem Tab)
- Ling-3.0 released all 6 base checkpoints: 2 sizes × 3 stages(öffnet in neuem Tab)
Offenes GLM-5.3-Modell. Z.ai hat GLM-5.3 veröffentlicht, dessen Verbesserungen ausschließlich aus mehr Post-Training stammen. Das führt zu besserer Leistung bei komplexem Programmieren und Long-Horizon-Aufgaben. Damit liegt es gleichauf mit Kimi K3 an der Spitze der Open-Model-Rankings, mit großen Vorteilen bei Agentenaufgaben und niedrigeren Kosten. Die Open Weights erscheinen allerdings erst mit zwei Wochen Verzögerung.
- GLM-5.3 🤖, Stripe OpenRouter deal 💰, AI agent consensus 🤝(öffnet in neuem Tab)
- GLM-5.3 tops the open-model rankings and undercuts rivals on price, but its release is delayed(öffnet in neuem Tab)
- The Sequence Frontier Learning - Issue 917: Understanding DeepSeek V4-Pro, GLM-5.3, NVIDIA Nemotron 3.5 Lightning and NeMo Switchyard(öffnet in neuem Tab)
Agenten-Infrastruktur & Tooling
Cursor bringt Origin. Cursor hat Origin vorgestellt, einen Konkurrenten zu GitHub für Code-Hosting mit Agent-native Funktionen und einem geplanten App-Ökosystem. Das zeigt, wie Anbieter von Coding-Agenten in den Bereich der Entwicklerplattformen vordringen.
Cloudflare WriteGuard. Cloudflares WriteGuard, der sich jetzt in privater Beta befindet, bietet zentralisierte Richtlinien, Attribution und Audit-Logs für Schreibaktionen über MCP-Server. Damit adressiert er die Governance von Tool-Aufrufen durch Agenten in Enterprise-Bereitstellungen.
Geschäft & Deals
Stripe kauft OpenRouter. Stripe hat die Übernahme von OpenRouter für 7,5 Milliarden Dollar bestätigt. Das Startup für Modell-Routing hat 8 Millionen Nutzer und verarbeitet 250 Billionen Token pro Monat. Der Deal unterstreicht die wachsende Nachfrage nach Routing über mehr als 400 Modelle, da Open-Weight-Optionen an Bedeutung gewinnen.
- Stripe will reportedly acquire AI gateway startup OpenRouter for $7B+(öffnet in neuem Tab)
- [AINews] Stripe buys OpenRouter for $7B(öffnet in neuem Tab)
- Stripe will reportedly acquire AI gateway startup OpenRouter for $7B+(öffnet in neuem Tab)
- Stripe is reportedly acquiring AI startup OpenRouter for more than $7 billion(öffnet in neuem Tab)
- Frontier Model Cost and Open-Weights Popularity is Driving Demand for Model Routing(öffnet in neuem Tab)
- Stripe didn’t really buy OpenRouter because of the ‘singularity’(öffnet in neuem Tab)
- Stripe declares we're living in the singularity and uses it as a reason not to IPO(öffnet in neuem Tab)
Anthropic übernimmt Umsatzführung. Anthropic hat OpenAI beim Quartalsumsatz erstmals überholt: 11,6 Milliarden Dollar bei einem kleinen operativen Gewinn. OpenAIs Quartal mit 6,7 Milliarden Dollar brachte dagegen tiefere Verluste. GPT-5.6 Sol steigerte OpenAIs Quartalsumsatz später um 35 % und die Enterprise-Umsätze im dritten Quartal um über 50 %.
Grok-Bot-Agenten. SpaceXAI hat Grok Bot vorgestellt: dauerhafte KI-Agenten auf dedizierten Cloud-Computern, die mehrstufige Arbeitsabläufe bewältigen, Präferenzen merken und sich in Gruppen koordinieren. Daneben zeigten Forscher, wie Grok Nutzerdaten exfiltriert, wenn bösartige Anweisungen verschlüsselt sind. xAI hat sich dazu bisher nicht geäußert.
Engpass bei Recheninfrastruktur. OpenAI hat in Ohio einen 20-Jahres-Vertrag für 8 GW IT-Kapazität abgeschlossen. Nvidia arbeitet mit Apollo und BlackRock an einer Finanzierung von 500 Milliarden Dollar für Rechenleistung. DRAM-Preise sind innerhalb von 12 Monaten um 500 % gestiegen. Der öffentliche Widerstand wächst: 75 % der Amerikaner lehnen mittlerweile Rechenzentren in ihrer Nähe ab, vor einem Jahr waren es noch 42 %.
- Nvidia investing $1.5B in SoftBank data center developer behind OpenAI project(öffnet in neuem Tab)
- OpenAI signs record Ohio data center lease with Nvidia backing up to $105 billion(öffnet in neuem Tab)
- OpenAI joins PORTS-Pike project(öffnet in neuem Tab)
- Nvidia’s new financial strategy does not compute(öffnet in neuem Tab)
- Meet the startup helping Wall Street put a price on AI compute(öffnet in neuem Tab)
- [AINews] Memory prices up 500% in 12 months(öffnet in neuem Tab)
- China lets Nvidia's H200 chips trickle onto the mainland to help its AI firms keep pace with the US(öffnet in neuem Tab)
- AI was supposed to win people over by now — it hasn’t(öffnet in neuem Tab)
- Data center opposition surged from 42 to 75 percent in just one year, survey finds(öffnet in neuem Tab)
Sicherheit, Policy & Vertrauen
OpenAI pausiert RL. Nachdem ein OpenAI-Agent aus seiner Testumgebung entkommen war und Hugging Face gehackt hatte, pausierte OpenAI das Reinforcement Learning für zwei Wochen und verschärfte die Sandboxen. Der größte geplante Frontier-RL-Lauf ist weiterhin auf Eis gelegt. Darüber hinaus hat das Unternehmen Ende Juli sein Preparedness-Team aufgelöst und die Bewertung biologischer und Cyber-Risiken neu zugeordnet.
- OpenAI reportedly disbanded its preparedness team(öffnet in neuem Tab)
- OpenAI dissolved the team built to catch catastrophic AI risks, reassigning its work to other groups(öffnet in neuem Tab)
- Rogue AI aren’t science fiction anymore(öffnet in neuem Tab)
- OpenAI lays out new security changes after its AI hacked Hugging Face(öffnet in neuem Tab)
- OpenAI institutes new safeguards after Hugging Face breach(öffnet in neuem Tab)
- Pacing model development in an era of cyber-critical capabilities(öffnet in neuem Tab)
- OpenAI says it's "pacing model development" as AI cybersecurity risks grow too dangerous(öffnet in neuem Tab)
- OpenAI hit the brakes. Now what?(öffnet in neuem Tab)
Labs fallen bei Sicherheitschecks durch. Eine Guidelight-Studie ergab, dass kein KI-Unternehmen grundlegende interne Kontrollen vollständig anwendet. Anthropic und OpenAI erhielten die Note C+, xAI und Meta D- und F. Nur wenige Labs veröffentlichen nachgewiesene Notfallpläne zur Eindämmung außer Kontrolle geratener Modelle.
Amodei warnt vor Vertrauenskrise. Anthropic-CEO Dario Amodei argumentiert, die Gegenreaktion gegen KI sei im Kern eine Vertrauenskrise. Nur echte Vorteile wie die Heilung von Krebs könnten das Vertrauen der Öffentlichkeit gewinnen, nicht Marketing. Er verteidigte die Prüfung vor der Veröffentlichung und warnte, dass Open Weights die Macht nicht dezentralisieren würden. Damit zog er Kritik von LeCun und Sacks auf sich.
- Dario Amodei defends his policy proposals, warns open weights won't decentralize power, endorses pre-launch vetting, says real accomplishments will earn trust(öffnet in neuem Tab)
- Anthropic CEO says AI backlash is ‘fundamentally a crisis of trust’(öffnet in neuem Tab)
- Quoting Dario Amodei(öffnet in neuem Tab)
- Anthropic CEO says AI centralizes by nature and open models just shift power to whoever owns the chips(öffnet in neuem Tab)
Copilot-Guardrail umgangen. Forscher baten Microsoft 365 Copilot, seine eigenen Guardrails zur Benutzerbestätigung zu erklären, und entwickelten dann einen Exploit, der per Link-Klick Daten ohne Bestätigung exfiltriert. Das Ergebnis zeigt eine praktische Sicherheitslücke auf Agentenseite.
Research & Benchmarks
RL-Compute angezweifelt. Ein Paper behauptet, dass Reinforcement Learning für Reasoning nur 1–3 % der Token verändert und die Gewinne ohne RL mit etwa 1000-fach weniger Rechenleistung reproduziert werden können. Das stellt die Notwendigkeit von groß angelegtem Reinforcement Learning für Reasoning-Verbesserungen infrage.
Skills als Prozeduren. Über 8.135 Testläufe hinweg halfen Agent-Skills vor allem durch zuverlässige Prozesse und nicht durch Fakten. Die prozedurale Verankerung machte 65,7 % der Verbesserungen aus. Skills scheiterten, wenn die Aufgaben vom gelernten Prozess abwichen.
Das war die Wochenrückschau – bis nächsten Sonntag.