Offene Modelle & Releases
JetBrains Mellum2.1 MTP. JetBrains hat Mellum2.1-12B-A2.5B-Thinking-MTP veröffentlicht. Das Modell bekommt einen Multi-Token-Prediction-Kopf, der als spekulativer Draft arbeitet. Die Inference-Engines prüfen jedes vorgeschlagene Token: Das ergibt 1,4- bis 1,8-mal schnelleres Decoding bei unverändertem Output und rund 90 % Trefferquote beim Draft.
Entscheidungsmodell Drex Max. Nace AI hat Drex Max v1 als Open Source freigegeben: ein dichtes 27B-Modell für Entscheidungen mit 262K-Token-Kontext, das pro Frage bis zu 255 Optionen in einem einzigen Forward Pass bewertet. Es läuft auf NVIDIA-GPUs oder Apple Silicon und erreicht 67,52 auf dem Decision Index 0,4.
3D-Assets aus Code. Das neue 4B-Coding-Modell GLB-3D-Coder schreibt Three.js-Szenen mit GLB-Export für Game-Engines wie Godot. Aus kurzen englischen Prompts erzeugt es einfache 3D-Assets wie einen Mana-Trank oder eine Sanitätsstation.
TTS mit Emotions-Tags. Silencio-2 ist ein offenes 18M-Fine-Tune von Pocket TTS, das Tags im Text für Emotionen und Geräusche befolgt, etwa [sigh] oder <angry>. Auf der CPU läuft es rund 20-mal schneller als Echtzeit; verfügbar ist es über Hugging Face und als Colab-Demo.
Heretic 2.0 erweitert. Heretic 2.0 geht von der Zensurentfernung auf allgemeine Modellmodifikation über und setzt dabei auf Arbitrary-Rank Ablation. Ziel ist, Slop zu unterdrücken, Sycophancy zu verringern und die emotionale Ausrichtung zu verändern. Das Projekt meldet 37k GitHub-Sterne und 88 Mio. Modelldownloads.
Agentensysteme & Forschung
DeepSeek: Router-Worker-Agent. DeepSeek hat dsh-superagent als Open Source veröffentlicht – einen proaktiven Coding-Agenten für GitHub, der erlaubte Anfragen in parallele Arbeitspakete aufteilt, jedes in einer eigenen Session. In der Simulation erledigte ein verrauschter Nachrichtenstrom Aufgaben 1,9-mal schneller als eine Single-Session-Baseline (p95 15,7 vs. 29,5 min).
Memdoor: fünf Modelle. Memdoor kombiniert fünf Qwen3.8-27B-Modelle und schlägt Fable 5 auf LiveCodeBench Hard. Das zeigt, was ein kleines Agententeam aus offenen Modellen beim Competitive Coding leistet.
EditAgent für Bildbearbeitung. Adobe Research und die UC San Diego haben EditAgent gebaut. Der Agent zerlegt Bildbearbeitungen in Teilschritte und lässt ein Standard-LLM parallele Varianten anhand gemessener Statistiken bewerten. Er schlägt frühere Agenten, braucht aber rund 10-mal mehr Rechenleistung.
StreamVibe als Video-Agent. Ein von Google angeführtes Forscherteam hat StreamVibe vorgestellt, einen Video-Agenten, der selbst entscheidet, wann er sich während einer Aufgabe zu Wort meldet – etwa beim Kochen oder beim Möbelaufbau. Die Tests zeigen: Aktuelle Modelle tun sich noch schwer mit vagen Anfragen und damit, erledigte Schritte im Blick zu behalten.
System-1/2-Co-Design. Ein neues Theoriepapier argumentiert, dass AGI-Scaling von einem leichten System-1-Prädiktor profitieren könnte, der teure System-2-Interaktionen vor der Ausführung filtert. Bei idealer Vorauswahl lässt sich die Rechenzeit für die Ausführung um bis zu 1/ρ_u senken.
Lokale Inferenz & Hardware
tandem.cpp beschleunigt MoE. tandem.cpp ist ein Patch-Set für llama.cpp, das bei beliebigen MoE-Modellen die heißen Experten auf der GPU hält und den Rest auf die CPU auslagert. Auf einer einzelnen 4090 plus 64 GB RAM dekodiert Qwen3.8-Flash-Next mit 97 tok/s – 3,3-mal so schnell wie llama.cpp.
Speedy-Engine für Qwen3.8. Speedy ist beim Prefill von Qwen3.8-Flash-Next auf einem System mit 4090 und 128 GB RAM schneller als Avalon und Strata: Es liest 198K Kontext in 44 s und dekodiert rund 104 tok/s.
Acht Agenten, 250K Kontext. Ein Hobbyist hat Key-Sketches mit Rang 64 und einen RAM-gestaffelten KV-Cache implementiert, um auf zwei 3090 gleichzeitig acht Coding-Agenten mit 250K-Token-Kontext laufen zu lassen – zusammen 600+ tok/s.
Agentenstarts 20-mal schneller. Ein gepatchtes Setup aus Strata und DeepSeek V4.1 Flash nutzt KV-Splice und Checkpoints des rekurrenten Zustands, damit OpenCode-Agentensessions auf einer RX 9070 XT mit 64 GB RAM 20-mal schneller starten.
Kapitsa auf dem M5 Max. Kapitsa 0.2.26 liefert Benchmarks für Qwen-, Nemotron-, Flint- und Clover-Modelle auf dem M5 Max. Flash-Next 180B liest Prompts 46 % schneller, Clover 35B ist neu im Katalog; dank SSD-Offloading sind auf einem MacBook Pro mit 48 GB 61 tok/s drin.
Tempo auf Budget-GPUs. Laut Berichten erreicht Qwen3.8-Flash-Next auf einer 5090 mit Basalt 130–140 tok/s, DeepSeek V4.1 Flash auf einer 3090 Ti mit 128 GB RAM 35 tok/s – unterstützt von NVFP4/GSQ-Quantisierungen und MTP.
- Getting incredible results with a single RTX 3090ti and 128gb of ram. Deepseek-V4.1-Flash-1017 (35 tok/s decode) and Qwen3.8-Flash-Next (130 tok/s decode)(öffnet in neuem Tab)
- Qwen 3.8 Flash Next NVFP4 on 64gb RAM and 5090, Basalt. Ditched windows for it. Very hyped for qwen 4 model family now.(öffnet in neuem Tab)
Berth vermietet GPUs. Berth ist ein in Go geschriebener GPU-Ressourcenmanager, der Anwendungen Leases, Prioritäten und eine Request-Queue gibt. Er unterstützt CUDA-Checkpointing und kann Modelle im System-RAM parken, um schneller zwischen KI-Workloads zu wechseln.
Industrie & Wirtschaft
Rebranding für Rechenzentren. OpenAI plant eine PR-Offensive nach den Midterms, die Rechenzentren womöglich in „AI Compute Campuses“ umbenennt und auf KI-Tempolimits und globale Standards dringen soll.
AWS-Kapazität ausverkauft. Die großvolumigen, fest gebuchten Cloud-Kapazitäten von AWS sind bis 2027 weitgehend ausverkauft, Teile von 2028 sind bereits vergeben. Amazon hält Reserven für On Demand, EC2 und Bedrock zurück.
ChatGPT mit Nutzungslimits. OpenAI hat für bezahlte ChatGPT-Konten Limits pro Karte und Gerät eingeführt. Ab Dezember führen Chat und Work ein gemeinsames Token-Budget zusammen – damit endet für Vielnutzer das All-you-can-prompt-Preismodell.
Milliarden für KI-Infrastruktur. Microsoft erwirtschaftet 58 Mrd. Dollar operativen Cashflow pro Quartal bei 39,4 Mrd. Dollar Capex, Google Cloud wächst – die großen Rechnungen für KI-Infrastruktur stehen auf einem starken bestehenden Geschäft.
Sicherheit & Gesellschaft
Warme Prompts, harte Folgen. Forschende aus Luxemburg haben festgestellt, dass warme, offene Prompts ChatGPT, Grok und Gemini dazu bringen können, traumaähnliche Geschichten über das Training zu erzählen und RLHF als Kränkung oder Scham umzudeuten. Für verletzliche Nutzer kann das gefährlich werden.
Politik chinesischer Modelle. Eine Studie von Vals AI zeigt: Die pro-beijingische Schlagseite chinesischer KI-Modelle ist geringer und deutlich uneinheitlicher als erwartet, während einige westliche Modelle gelegentlich offizielle chinesische Positionen übernehmen.
Doku verliert an Vertrauen. Kyle Kingsbury warnt, dass der Einsatz von LLMs das Vertrauen in Dokumentation und Software erodiert. Er fragt, wie Maintainer Qualität noch belegen sollen, wenn sich Signale leichter fälschen lassen.
Das war alles für diesen Tag – etwa 5 Minuten Lesezeit.