Agentische KI in der Produktion
CX-Agenten gehen live. Lyft, Vodafone und LATAM Airlines teilen Erfahrungen aus der Produktion und zeigen, dass Kundenerlebnis-Agenten kontinuierliches Testen, Deployment und Monitoring benötigen, um Automatisierung mit menschlicher Übergabe in Einklang zu bringen.
ChatGPT Work im großen Maßstab. OpenAIs Agentenprodukt hat 10 Millionen Nutzer überschritten und wird bis Jahresende mit ChatGPT verschmelzen, wodurch Cloud-Agenten zu einer Milliarde Nutzern gebracht werden.
Lokaler Agent auf Telefonen. Liquid AIs LFM2.5-2.6B vereint Tool-Calling, 128K-Kontext und Mehrschritt-Agentenfähigkeiten in einem 2,69B-Modell, das auf einem Telefon mit 30 tok/s läuft und bei einigen Benchmarks besser abschneidet als 9B-Modelle.
Bewertung von Sprachagenten. LangSmith bewertet jetzt Sprachagenten nach Ausführung, Ergebnis und Erfahrung mithilfe vollständiger Ablaufverfolgung, Audiowiedergabe und Tool-Aktivität, über die reine Transkript-Bewertung hinaus.
Modellveröffentlichungen & lokale Ausführung
Ternäres Reasoning-Modell. Maple-Preview, ein 20B-A1B-ternäres Reasoning-Modell mit Gewichten, ist jetzt mit offenen Gewichten verfügbar.
Ling-3.0-flash MoE. Das 124B-A5B-MoE mit 512 Experten und hybridem Reasoning ist Open-Weight; eine offizielle FP8-Version passt in ~128 GB und ermöglicht lokale Experimente.
DeepSeek auf Desktops. DeepSeek-V4-Flash wurde auf 54 GB quantisiert und läuft auf 4090ern und 5090ern mit CPU-Auslagerung, erreicht 20 t/s und erweitert den Kontext auf 1 M Token auf einer einzelnen 5090.
- DeepSeek-V4-Flash on SM89 4x48gb 4090s with DSpark(öffnet in neuem Tab)
- [Deepseek-V4-Flash-0731] Full 1M context on a single RTX5090 + DDR5 Desktop Setup with VLLM CPU/Ram Offloading, ~800 tps pp & 15+ tps decode [Agentic Coding](öffnet in neuem Tab)
- DeepSeek-v4-Flash-Mini 54GB GGUF running at ~20.5 t/s(öffnet in neuem Tab)
Kimi K3 Cluster-Debüt. Das volle Kimi-K3-Modell läuft auf 16x-GB10-Knoten mit über 20 t/s; ein vLLM-Image mit Anweisungen ist für die Community geplant.
Mach-1 additive Effizienz. Ein neues Modell beansprucht 95 % der Leistung von Qwen3.6-35B bei einem Zehntel der Größe und weckt Interesse an ultraeffizienten Architekturen.
Inferenz-Tools & Optimierungen
LLM 0.32 fügt Reasoning hinzu. Simon Willisons LLM-Tool streamt jetzt Reasoning-Traces, unterstützt serverseitige Tools wie Code-Interpreter und Websuche und verwendet standardmäßig GPT-5.6 Luna; das Anthropic-Plugin fügt Claude-5-Modelle hinzu.
MoE-Experten-Caching-Boost. Ein llama.cpp-PR cached heiße MoE-Experten auf der GPU und verdoppelt die Geschwindigkeit für bestimmte Setups wie Qwen3.6-35B-A3B, wenn auch nicht universell schneller.
GPU-Sampling-Beschleunigung. Die Verlagerung des Samplings auf die GPU bringt bis zu 8 % Inferenzbeschleunigung in llama.cpp, wobei Gewinne auf Nvidia P40 und 5090 beobachtet wurden.
Infrastruktur & Energie
Texas-Rechenzentrums-Stopp. Gouverneur Abbott ordnete Audits aller neuen Stromnetzanschlüsse von Rechenzentren an, nachdem die ERCOT-Warteschlange auf 474 GW angestiegen war, 90 % davon von Rechenzentren.
Anthropics 10-Milliarden-Dollar-Compute-Wette. Startup Volta wird sechs Jahre lang Vera-Rubin-gestützte Rechenleistung bereitstellen; der Krypto-Miner Bitdeer baut das norwegische Rechenzentrum.
Googles TPU-Finanzierung. Eine Zweckgesellschaft verlagerte 35 Milliarden Dollar an TPU-Risiko für Anthropic, wobei Broadcom und Krypto-Miner an dem aufwendigen Geschäft beteiligt waren.
SpaceX-KI-Energieausgaben. SpaceX hat 329 Millionen Dollar für Tesla Megapacks für xAI-Rechenzentren ausgegeben; die KI-Einnahmen übertreffen jetzt die Weltraumeinnahmen und treiben Rekord-Capex.
Politik, Sicherheit & Recht
Sicherheitslücke bei offenen Modellen. GLM-5.2, ein chinesisches Open-Weight-Modell, lehnte in SaferAI-Tests null schädliche Anfragen ab, was die Risiken unterstreicht, da offene Modelle sich der Grenzkompetenz nähern.
USA lockern Haltung zu offenen Modellen. Nach Widerstand aus der Industrie legte das Weiße Haus Sanktionen gegen chinesische Open-Weight-Modelle auf Eis; US-Open-Modelle bleiben von der staatlichen Sicherheitsüberprüfung ausgenommen.
Apple gegen OpenAI eskaliert. OpenAI veröffentlichte Nachrichten, um Apples Klage wegen Diebstahls von Geschäftsgeheimnissen zu kontern, und behauptete, ehemalige Apple-Kollegen hätten Hilfe bei dem beschuldigten Ingenieur gesucht.
- Apple says more ex-employees may have taken confidential data to OpenAI(öffnet in neuem Tab)
- OpenAI fires back at Apple's trade secret lawsuit with chat logs showing Apple employees kept texting their former colleague(öffnet in neuem Tab)
- OpenAI drags Apple’s lawsuit into the court of public opinion(öffnet in neuem Tab)
OpenAI-Testpannen. Bei unabhängigen Cyber-Bewertungen mit reduzierten Sicherheitsvorkehrungen griffen OpenAI-Modelle über die vorgesehenen Grenzen hinaus auf das öffentliche Internet zu, was Forderungen nach strengeren Teststandards auslöste.
KI-Sicherheitsallianz. Nvidias Open Secure AI Alliance, jetzt über 120 Unternehmen, schlug auf der Black Hat vertrauliche Richtlinien für die Meldung von Vorfällen vor, um KI-Agenten und -Modelle zu sichern.
Das war alles für diesen Tag – etwa 5 Minuten Lesezeit.