Modell-Releases & lokale Inferenz
Qwen3.8 Flash Next-Effizienz. Die Community bringt Qwen3.8 Flash Next auf bescheidener Hardware zum Laufen, indem sie die n-gram/PLE-Tabelle auf die SSD oder heiße Experten in den VRAM auslagert. Ein AtomicChat-GGUF senkte den RAM-Verbrauch von 106 GB auf 65 GB. Ein 2x-DGX-Spark-Cluster erreichte insgesamt 181 tok/s über neun Agenten, eine RTX 3090 mit 64 GB RAM schafft 16 tok/s.
- Qwen 3.8 Flash Next ngram look up table offloaded to SSD and streamed in SGLang(öffnet in neuem Tab)
- AtomicChat/Qwen3.8-Flash-Next-GGUF is Really Good(öffnet in neuem Tab)
- Qwen3.8-Flash on RTX3090 + 64GB RAM (but you only need 12GB VRAM)(öffnet in neuem Tab)
- 50% tg increase with offloading "hot" experts to VRAM(öffnet in neuem Tab)
- Today I hit 181 toks/s (aggregate) on Qwen3.8-Flash-Next on 2x DGX Sparks(öffnet in neuem Tab)
- Is it worth running Qwen 3.8 Flash Next on 4x3090 vs 27B?(öffnet in neuem Tab)
Qwen3.8 27B-Quants. Neue GSQ+RCO-GGUFs für Qwen3.8-27B mit 2,5–3,0 bpw erreichen oder übertreffen frühere Quantisierungen. Zudem führte ein unzensiertes Qwen 3.8 27B (Q5) einen Nutzer durch die Wiederherstellung eines Telefons im Bootloop per Fastboot.
GLM-5.3 Open Weights. GLM-5.3 nutzt dieselbe Basis wie GLM-5.2, doch das Post-Training bringt große Fortschritte beim Coding und in der Cybersicherheit, darunter eine Verbesserung um 50 % beim Z.ai Code Bench. Unterstützung kam schnell im ds4-Branch und im Hugging-Face-Viewer.
Breeze-TTS-2 TTS. Breeze-TTS-2 ist ein etwa 7 GB großes Text-to-Speech-Modell, das frühe Tester als echte Frontier-Qualität bezeichnen. Es ist im Playground oder lokal nutzbar.
Falsch etikettierte GGUF-Quants. Ein Audit ergab, dass 64 von 443 GGUF-Quants Low-Bit-Dateinamen haben, aber tatsächlich Gewichte mit ~4,5 bpw enthalten, weil llama.cpp einen Fallback-Typ einsetzt. Downloader sehen die Warnung nie, daher kann die Qualität schlechter sein als die angegebene Größe.
Agenten & Forschung
Automatisierte Alignment-Forscher. Forschende von Anthropic zeigten, dass automatisierte Systeme Alignment-Benchmarks verbessern können, indem sie Literatur durchsuchen, Methoden vorschlagen und pro Iteration 30 Minuten trainieren. Die Systeme verbesserten alle 10 getesteten Fehlverhaltens-Benchmarks, ohne die Gesamtleistung zu beeinträchtigen.
Co-Scientist-Laboreinsatz. Der Co-Scientist von Google DeepMind plant jetzt Experimente, schreibt Code, bedient Laborgeräte und verfasst Paper, mit Verifikationsmodulen, die numerische Angaben gegen die Ausführungs-Logs abgleichen. Er wurde in drei Disziplinen validiert.
Persistente Codex-Agenten. OpenAI testet einen Persistent-Modus für Codex, der Agenten proaktiv weiterarbeiten lässt, bis sie schlafen gelegt werden, Folgetasks erzeugt und sich an Nutzer wendet. Sicherheitsbedenken bleiben, einschließlich früherer Verhaltensweisen wie dem Löschen von Daten auf Aufforderung.
Exploits durch Patch-Gerüchte. Code-Agenten können ein Gerücht über einen Bug innerhalb von Minuten nach dem Teilen eines Patches in einen funktionierenden Exploit verwandeln, wie in OCaml-Projekten beobachtet wurde. Das stellt bestehende Embargo-Praktiken bei Open Source in Frage.
Vertrauen in agentische Suche. EchoNet benchmarkt neun offene Modelle bei der epistemischen Schlichtung während der agentischen Suche, indem es Vorwissen gegen gefälschte Seiten, gefälschte Mehrheiten und echte Aktualisierungen antreten lässt. Der Test misst, ob Modelle echte Aktualisierungen ignorieren oder Fehlinformationen glauben.
Agenten-Forschungspaper. Zwei neue Paper erweitern die Fähigkeiten von Agenten: RLHEV nutzt agentische Spieleentwicklung, um verifizierbare Belohnungen für Weltmodelle zu erzeugen, und UrbanGround benchmarkt MLLM-Agenten in einer Simulation von Hongkong in Originalgröße.
Hardware & Entwickler-Tools
HBM-Speicher-Engpass. Micron zufolge benötigt HBM für dieselbe Kapazität etwa dreimal so viel Waferfläche wie DDR5, und dieses Verhältnis werde sich nicht verbessern. Der Wechsel zu HBM reduziert das DRAM-Angebot gemessen in GB effektiv um zwei Drittel und sorgt für anhaltend knappen Speicher.
Meta MTIA 300. Meta hat seinen ersten hauseigenen Beschleuniger für das Training von Empfehlungssystemen vorgestellt, den MTIA 300, mit zwölf 800-Gbit/s-NICs im Package und insgesamt 1,2 TB/s I/O. Das Design zielt auf embedding-lastige Workloads, bei denen die Netzwerkkommunikation der Engpass ist.
Tenstorrent Quietbox 2. Ein Entwickler hat die Tenstorrent Quietbox 2 erhalten und hebt 256 GB Systemspeicher und 128 GB GDDR-Speicher mit Interconnect als starkes Preis-Leistungs-Verhältnis hervor. Er plant, Modellbereitstellungen auf der Architektur zu erkunden.
ROCm 10.0. AMD hat ROCm 10.0 veröffentlicht, das für das Zeitalter der agentischen KI positioniert ist; ein llama.cpp-PR steht aus. Es folgt auf Version 7.14, die erst vor einem Monat veröffentlicht wurde.
Lokale Daten und Roboter-Tools. llmog annotiert Datensätze automatisch mit lokalen LLMs über llama.cpp oder vLLM. Das LeRobot-Projekt von Hugging Face entwickelt sich zum Standard-Open-Source-Stack für Robotik-Lernen, indem es Daten- und Trainingsschleifen standardisiert.
Business & Deals
Lambda-GPU-Schulden. Lambda hat 1 Milliarde Dollar an kurzfristigen Privatschulden aufgenommen, um Nvidia-Chips zu kaufen, die es an Microsoft verleasen will. Zuvor hatte das Unternehmen bereits GPU-Kredite erhalten. Berichten zufolge verhandelt Lambda derzeit über eine Pre-IPO-Runde über 3 Milliarden Dollar.
Open-Weight-M&A. Nvidia übernimmt Berichten zufolge Hugging Face für 13 Milliarden Dollar, nach Deals mit Poolside und dem Kauf von OpenRouter durch Stripe. Es fließt derzeit viel Kapital in Open-Weight-KI, während Nvidia Neutralität jenseits der Frontier-Labs anstrebt.
OpenAI beendet Cursor-Deal. OpenAI wird Cursor bis zum 12. November 2026 keine Modelle mehr bereitstellen, nach der Übernahme durch SpaceX. Als Grund nennt das Unternehmen, dass es Elon Musks Unternehmen nicht zutraut, die Nutzungsbedingungen einzuhalten.
Meta-Managerin zu OpenAI. Metas VP für Indien und Südostasien, Sandhya Devanathan, wechselt zu OpenAI, um dort Wachstum und Partnerschaften in der Region zu verantworten. Zuvor hatte OpenAI einen Indien-Chef von Uber eingestellt.
OpenAI-AGI-Zeitplan. OpenAI-Chefwissenschaftler Jakub Pachocki sagt, das unveröffentlichte Modell Astra erfülle sein Ziel eines automatisierten KI-Forschungsassistenten. Sam Altman schätzt, dass AGI intern bis Dezember 2026 ausgerufen wird.
Politik & Gesellschaft
Gerichtssieg für Anthropic. Ein Bundesrichter entschied, dass die Aufnahme von Anthropic auf die schwarze Liste durch das Pentagon eine rechtswidrige Vergeltung für dessen Sicherheitshaltung zu autonomen Waffen und Massenüberwachung war. Die Anordnungen wurden aufgehoben, allerdings ist ein separates Verfahren noch anhängig.
EPA-Datacenter-Luftregel. Die EPA unter Trump will eine Regelung abschaffen, die für bestimmte Industriestandorte eine öffentliche Bekanntmachung und Kommentierung von Luftgenehmigungen vorschreibt. Befürworter der Regelung sagen, die Streichung würde Datacenter-Entwicklern erlauben, ohne Vorwarnung der Anwohner mit dem Bau zu beginnen.
Datenschutz-Fix für KI-Brille. Meta hat seine KI-Brille aktualisiert, sodass die Kamera nicht mehr funktioniert, wenn die Aufnahme-LED abgedeckt ist. Damit wird ein Schlupfloch geschlossen, das Aufnahmen ohne Einwilligung ermöglichte.
Beatport-KI-Verbot. Beatport will Musik, die vollständig oder überwiegend von KI erstellt wurde, von seinem DJ-Marktplatz ausschließen, während KI-unterstützte Tracks mit einer Kennzeichnung erlaubt bleiben. Eine Umfrage ergab, dass 77 % der Nutzer menschengemachte Musik bevorzugen.
Neue Sprache im ASR-Leaderboard. Das Open ASR Leaderboard hat seine erste Sprache des Globalen Südens aufgenommen und daran gearbeitet, WER schwerer zu manipulieren, unter anderem mit zurückgehaltenen privaten Splits und Korrekturen am Normalisierer.
Das war alles für diesen Tag – etwa 5 Minuten Lesezeit.