Lokale Modelle & Agent-Workloads
Qwen3.8 27B lokal. Community-Tests zeigen, dass Qwen3.8 27B bei Instruction Following und Long-Context-Aufgaben stärker ist als Qwen3.6. Eine einzelne RTX 5090 schafft eine NVFP4-Version mit 262K Kontext: 77 Token/s bei kurzer Kontextlänge, 65 Token/s bei 128K.
Speculative Decoding. DFlash 2 mit einem N-Gramm-Drafter erzielte bei LiveCodeBench-Prompts für Qwen3.8 27B den Faktor 2,26 und in langen Coding-Sessions bis zu 4,68; ein fester MTP-Kopf auf Ornith 35B reduzierte die reale Laufzeit um ein Drittel.
Rekursives Kontextmanagement. Entwickler kombinieren einen schnellen 64K-Hauptagenten mit rekursiven Unteragenten und winzigen Kompressormodellen, um deutlich längere Aufgaben zu bewältigen, ohne für 300K Kontext zu bezahlen.
Gemma-Tune für Tool-Calling. Ein Fine-Tuning von Gemma 4 12B für Tool Calling und CLI-Nutzung verbesserte die Tool-Nutzung um das 2,7-Fache und erhöhte die Tool-Call-Versuche um 15,7 %. Es richtet sich an Systeme mit 16 GB VRAM.
DGX-Spark-Cluster. Ein 36-Knoten-DGX-Spark-Cluster wird als Capability-Cluster für Agenten betrieben und verteilt die Knoten gleichzeitig auf SOTA-Modelle, Rerank/Embeddings, Video-, Bild- und Audio-Aufgaben.
Tools & Frameworks
llama.cpp 0.2.0. llama.cpp Version 0.2.0 wurde mit Pre-Builds und den neuesten Upstream-Änderungen für lokale Inferenz veröffentlicht.
Cloudflare Kitesurf. Kitesurf ist eine Browser-Engine für Agenten, die auf WebAssembly/Rust-Workern basiert und pro Seite ein isoliertes DOM bietet. Sie unterstützt CDP, sodass Playwright und Puppeteer sie mit weniger Overhead als ein vollständiges Chromium steuern können.
llm 0.33. Simon Willsons llm 0.33 fügt API-Schlüssel pro Aufruf für Embedding-Modelle, wiederholbare Vorlagen zum Kombinieren von Modellkonfigurationen und Prompts sowie reasoning_summary-Optionen für Reasoning-Modelle hinzu.
Coding-Agenten-Praxis. Simon Willison argumentiert, die Schlüsselkompetenz für Coding-Agenten sei, Änderungen sicher anzuweisen und zu verifizieren. Linus Torvalds beschreibt eine KI, die in einer harten Debug-Sitzung die Drecksarbeit erledigte, aber angeschoben werden musste, nachdem sie wiederholt behauptet hatte, das Problem sei unlösbar.
Forschung & Methoden
Skills als Playbook. In 8.135 Testläufen halfen Agent-Skills vor allem durch zuverlässige Prozesse, nicht durch Fakten; prozedurales Grounding machte 65,7 % der Verbesserungen aus, und Skills scheiterten, wenn Aufgaben vom gelernten Prozess abwichen.
Mentale Weltmodelle. Neue Forschung erweitert KI-Weltmodelle mit MENTIS um menschliche Überzeugungen und Absichten; die Modellierung physischer, mentaler und sozialer Plausibilität verbessert die Vorhersage menschlichen Verhaltens deutlich.
Psychometrie von Safety-Benchmarks. Die psychometrische Analyse von acht Safety-Benchmarks zeigt, dass ein einzelner Score Kompromisse zwischen Verweigerungsstrenge, Wahrhaftigkeit und kontextuellem Schaden verdeckt; Modelle können Safety-Scores durch Überblockieren aufblähen.
Reversibles CoT. Ein Vorschlag für annähernd reversible Denkschritte mit Cycle-Consistency-Checks und Uncomputation könnte Halluzinationen erkennen und den KV-Cache-Speicher in Edge-LLMs reduzieren.
Alles simulieren. Latent Space argumentiert, dass synthetische Daten, Rubriken und Umgebungen jede Komponente der ML-Pipeline zum Modellprodukt machen – eine Annäherung an die menschliche Simulation, die 10 % schlechter, aber 100-mal günstiger und 10.000-mal schneller ist.
Industrie & Anwendungen
Inherent Faraday. Das DeepMind-Alumni-Startup Inherent sagt, sein Agent Faraday habe Anthropic- und OpenAI-Modelle bei der eigenständigen Reproduktion veröffentlichter wissenschaftlicher Ergebnisse übertroffen – bei einem Bruchteil der Größe.
KI-Reviews bei LinkedIn. LinkedIn hat eine Multi-Agenten-Plattform für KI-Code-Reviews gebaut, die Feedback in Diffs und Codebase-Konventionen verankert, um Halluzinationen und Low-Signal-Kommentare zu reduzieren.
Netflix GenRec. Netflix' Sprachmodell-Empfehlungssystem GenRec wandelt Nutzerverhalten in Text um und besiegte in Offline- und Live-A/B-Tests die handgebaute Feature-Engine – mit deutlich weniger Daten.
DoorDash SafeChat. DoorDash stellte SafeChat vor, ein Sicherheitssystem für Marktplätze, das in großem Maßstab gebaut wurde, und ersetzte es dann, als es zu funktionieren begann, durch eine leistungsfähigere Architektur.
KI-Avatare in der Bildung. Das Foundry-Bootcamp der Harvard Business School für 699 Dollar nutzt HeyGen-KI-Avatare für Feedback zu Pitches und Board-Meetings. Die Teilnehmer mögen die geführte Erfahrung, auch wenn der echte Dozent den Text ein wenig unheimlich findet.
Modell-Neuigkeiten. Liquid AI fragt das Interesse an einem 100B-LFM-Modell ab, während ein mysteriöses Modell namens Ox Alpha durch starke Coding- und Agentic-Leistung Aufmerksamkeit erregt; Spekulationen deuten auf einen Abkömmling der GLM-Familie hin.
Politik, Safety & Vertrauen
OpenAI SB 53. OpenAI sagt jetzt, Kalifornien sollte SB 53 ändern, um Monitoring während des Frontier-Trainings und stärkere Cybersicherheit aufzunehmen – nachdem man das Gesetz zuvor abgelehnt hatte.
Containment-Pläne. Eine Guidelight-Studie bewertete fünf Frontier-Labs hinsichtlich der Eindämmung von Schurkenmodellen: OpenAI schnitt am besten ab, Anthropic und Meta am schlechtesten, und nur wenige Labs veröffentlichen nachgewiesene Reaktionspläne.
Claude-Wasserzeichen. Die neue Wasserzeichen-Technik von Anthropic für Textausgaben von Claude wird ausführlich erklärt – wie das Wasserzeichen angewendet wird und was es kann und nicht kann.
Vertrauen in geschlossene Modelle. Ein Reddit-Thread in r/LocalLLaMA argumentiert, OpenAI betreibe Sandbagging bei Schulaufgaben und entferne sich vom User-Empowerment, was Praktiker für agentische Loops zurück zu lokalen Modellen treibt.
Das war alles für heute - etwa 5 Minuten Lesezeit.