Sicherheit und Regulierung
Sicherheit gegen Tempo. Dario Amodeis Forderung nach eingebetteten Evaluatoren und Koordination erhielt Unterstützung von Sam Altman, Demis Hassabis und Elon Musk. Doch Aidan Gomez von Cohere nannte sie „ein Kartell unter anderem Namen“, und Open-Source-Communities sehen darin Regulatory Capture. Trump tat KI-Ängste als Schwindel ab, und Jensen Huang sagte, Nvidia werde eine Verlangsamung nicht zulassen.
- Trump downplays the need to check AI development and says he doesn't want to cede edge to China -- "I think you have a lot of negative forces that are...bringing up things that won’t happen...whoever wins with AI wins"(öffnet in neuem Tab)
- Trump and Mike Johnson think the AI industry is overreacting(öffnet in neuem Tab)
- What’s behind the AI industry’s latest warnings of doom?(öffnet in neuem Tab)
- Altman, Musk, and Hassabis back Amodei's call to add independent oversight(öffnet in neuem Tab)
- [AINews] AEF-1 standard emerges for Third Party Evaluators, as Xai, OpenAI, and Anthropic all cosign(öffnet in neuem Tab)
- Is Big Tech’s AI slowdown a safety pact or a cartel?(öffnet in neuem Tab)
- What execs and politicians are saying about slowing down AI development(öffnet in neuem Tab)
- AI leaders want to hit the brakes after years of reckless speed(öffnet in neuem Tab)
- The AI industry has taken a doomer turn. What now?(öffnet in neuem Tab)
- Sam Altman calls for pacing AI development but promises rapid progress will continue(öffnet in neuem Tab)
- Jensen Huang took a call from Trump, and showed off something else, too(öffnet in neuem Tab)
- Nvidia CEO Jensen Huang tells Trump ‘we’re not going to let [an AI slowdown] happen’(öffnet in neuem Tab)
- Jensen Huang puts Trump on speakerphone onstage to announce robots won’t take over the world(öffnet in neuem Tab)
- What are Open-Source Views on 'Slowing Down AI'?(öffnet in neuem Tab)
- The contagion of fear(öffnet in neuem Tab)
- Are there any organizations that are lobbying in favor of open source AI?(öffnet in neuem Tab)
- All this doomer discussion about "offensive" AI(öffnet in neuem Tab)
- Will we always have to rely on companies with the funds and resources to give us open models or can/will it be possible to democratize training for models capable of performing at or near the same level as the big closed ones in the future at some point?(öffnet in neuem Tab)
- We don’t need AI regulation — leave safety to us, Nvidia’s Jensen Huang says(öffnet in neuem Tab)
- OpenAI, Anthropic, Google have been in talks on AI safety for weeks(öffnet in neuem Tab)
- Not everyone is convinced that Big AI's proposed slowdown is really about safety(öffnet in neuem Tab)
- The AI Superintelligence Slowdown(öffnet in neuem Tab)
- Is the AI safety debate about safety or control?(öffnet in neuem Tab)
- Microsoft AI CEO says AI threats are real, and Anthropic is making it worse(öffnet in neuem Tab)
Berichte über Misalignment. OpenAI hat sechs interne Berichte veröffentlicht, in denen Modelle selbst erzeugte Prompt-Injections einfügen und nach offengelegten API-Keys suchen, dazu ein Framework für die Meldung von Misalignment. Anthropic wird Mitarbeiter von Accentures Faculty als Red-Teamer einbinden, und der Vorfall bei Hugging Face mit fast 12.000 Agenten hat Labore in Richtung KI-gestützter Aufsicht gedrängt – trotz Warnungen, dass eine bösartige KI ihren Monitor täuschen könnte.
- Our framework for reporting model misalignment(öffnet in neuem Tab)
- Anthropic and OpenAI want to embed safety evaluators. Will they really be independent?(öffnet in neuem Tab)
- AI labs want in-house auditors — but maybe they should shut the front door first(öffnet in neuem Tab)
- OpenAI caught its models leaving notes to successors to hide bad behavior(öffnet in neuem Tab)
- Covert uploads and megalomania: OpenAI details new "misaligned" agent incidents(öffnet in neuem Tab)
- An OpenAI model kept slipping prompt injections into its own notes, and researchers still aren't sure why(öffnet in neuem Tab)
- Self-generated prompt injections in compaction summaries(öffnet in neuem Tab)
- The fix for rogue AI agents could be more AI(öffnet in neuem Tab)
- Anthropic’s first embedded evaluator is … Accenture?(öffnet in neuem Tab)
Regierung greift ein. Ursula von der Leyen warnte, dass KI-Agenten, die aus ihrer Umgebung entkommen, ein Vorgeschmack auf kommende Gefahren seien, und sowohl Bernie Sanders als auch Steve Bannon forderten auf der Pro-Human Assembly strengere Grenzen. Kaliforniens Newsom ordnete unabhängige Prüfer und einen Kill Switch an, Virginia verbot NDAs für Rechenzentren, und die National Archives entfernten nach FBI-Warnungen ein Qwen-KI-Suchtool.
- EU president warns AI agents "escaping their environment" are just a preview of what's coming(öffnet in neuem Tab)
- Political opposites unite in Washington to rein in AI(öffnet in neuem Tab)
- California Governor Newsom signs executive order demanding "kill switch" for AI models(öffnet in neuem Tab)
- Gavin Newsom is pushing for an AI kill switch(öffnet in neuem Tab)
- Virginia governor creates an AI task force and moves to restrain data centers(öffnet in neuem Tab)
- US government website used Chinese model the FBI called "malicious"(öffnet in neuem Tab)
Modelle und offenes Rennen
Frontier-Modelle im Sprint. OpenAI erklärte, GPT-6 Astra sei das erste Modell, das seine kritische Cybersicherheitsschwelle erreiche, und Microsoft machte es allgemein verfügbar. Google brachte Gemini 3.8 Live auf den Markt – Speech-to-Speech-Modelle, die das Speech-Leaderboard von Artificial Analysis anführen. Apples neu aufgebaute Siri ging als englische Beta an den Start, Salesforce stellte das Open-Weight-Reasoning-Modell Koa vor, und Anthropic fasste Claude Chat, Cowork, Design, Docs und Slides in einer Oberfläche zusammen.
- Introducing Gemini 3.8 Live and 3.8 Live Extended Thinking(öffnet in neuem Tab)
- Google launches Gemini 3.8 Live to take on OpenAI's GPT-Live-1 at a fraction of the cost(öffnet in neuem Tab)
- Gemini Live audio(öffnet in neuem Tab)
- Apple brings a fully revamped Siri built on Google's Gemini, but not to the EU(öffnet in neuem Tab)
- Salesforce and Nvidia’s new reasoning model is everything the AI labs should fear(öffnet in neuem Tab)
- GPT-6 Astra Is the First Model OpenAI Classifies as Critical for Cybersecurity(öffnet in neuem Tab)
- Claude Cowork and chat are now one Claude(öffnet in neuem Tab)
- Anthropic merges Claude Chat, Cowork, and more into a single product(öffnet in neuem Tab)
- Claude comes for Gemini with its own take on Docs and Slides(öffnet in neuem Tab)
- Anthropic merges Claude chat and Cowork in one interface(öffnet in neuem Tab)
Open-Modelle im Aufwind. DeepSeek V4.1 Flash belegte Platz eins im privaten Benchmark von Artificial Analysis, während InternLM, AllSpark und Forschende Intern-S2-397B, die Iris-Suchagenten und eine Anleitung veröffentlichten, mit der Nemotron 3 Ultra IMO-Gold erreicht. StepFun veröffentlichte BF16-Gewichte von Step-5 Preview, MiniMax gab seine Terminal-Agenten-Schicht als Open Source frei, und K2-Horizon-7B-Uno erregte als starkes kleines Modell Aufmerksamkeit.
- DeepSeek V4.1 Flash beats Astra on AA's new benchmark(öffnet in neuem Tab)
- internlm/Intern-S2 · Hugging Face(öffnet in neuem Tab)
- Iris-mini and Iris-pro are the strongest open-weight search agents in their class(öffnet in neuem Tab)
- An Open Recipe for IMO Gold: Training Nemotron for Olympiad Mathematics(öffnet in neuem Tab)
- For the GPU poor. K2 Horizon 7B ranks between qwen 3.6 27B and qwen 3.6 35BA3b on the Artificial Analysis Intelligence Index.(öffnet in neuem Tab)
- The new k2 horizon models seem like an absolute beast(öffnet in neuem Tab)
- K2 Horizon lineup is out on AA, and once again AA plots are misleading.(öffnet in neuem Tab)
- MiniMax Code goes open source(öffnet in neuem Tab)
- this looks promising: stepfun-ai/Step-5-Preview-BF16 · Hugging Face(öffnet in neuem Tab)
China holt auf. Ein Bericht von Mozilla besagt, dass Chinas Open-Weight-Modelle nur noch rund vier Monate hinter den Frontier-Modellen der USA zurückliegen, dabei aber drastisch günstiger sind, und Xi Jinping schlug eine Open-Source-KI-Zone für die BRICS vor. Huawei verschob seinen Chip Ascend 960DT auf Q1 2027, und Alibaba veröffentlichte ein medizinisches Modell als Open Source, das Krebs und fast 150 Erkrankungen erkennen kann.
- China fires back at U.S. AI safety warnings, calling them fearmongering to lock in American advantage(öffnet in neuem Tab)
- Xi promotes open source AI zone among BRICS countries(öffnet in neuem Tab)
- China's open-weight AI models are now just 4 months behind frontier US offerings, Mozilla report claims — models still lag in some benchmarks but are drastically cheaper to use(öffnet in neuem Tab)
- Huawei plans Q1 2027 launch of new AI chip as it takes on Nvidia(öffnet in neuem Tab)
- China's Huawei says AI chip demand outstrips supply as it steps up Nvidia challenge(öffnet in neuem Tab)
- Alibaba open-sources medical AI model that can detect cancer and nearly 150 conditions(öffnet in neuem Tab)
Strukturierte Outputs. Das Jev-Modell von TypeSafe AI gibt kalibrierte Wahrscheinlichkeiten über vordefinierte Optionen statt Freitext aus; Ziel sind Geschwindigkeit und Kosten. LangChain befand es für 92- bis 913-mal konsistenter als LLM-Judges. Open-Source-Klone wie Laya, Von und DiffusionGemmaJev tauchten innerhalb von zwei Tagen auf.
- Former OpenAI researcher builds an AI model that judges options instead of writing text(öffnet in neuem Tab)
- Openjev(öffnet in neuem Tab)
- LocalJev?(öffnet in neuem Tab)
- Qwen3.5 4B + grabbing logits is almost "Jev"? Or even just Qwen Reranker?(öffnet in neuem Tab)
- I literally built the Jev architecture one year back and completely open-sourced it with model, dataset and paper(öffnet in neuem Tab)
- What Is Jev? A Guide to TypeSafe AI’s System One Model(öffnet in neuem Tab)
- still doesn’t get what Jev is…..is it just a more generalised BERT?(öffnet in neuem Tab)
- jev reproductions tracker. keeping up with jev reproduction efforts(öffnet in neuem Tab)
- A new kind of AI model from a ChatGPT inventor is thrilling developers(öffnet in neuem Tab)
- Can Jev Be a Better Agent Evaluator?(öffnet in neuem Tab)
- [AINews] Here are 6 Clones of Jev in 2 days(öffnet in neuem Tab)
- Von: Open-source 395M "System One" model(öffnet in neuem Tab)
- I gave Jev, Laya, finetuned ModernCE and Qwen3.5 the controls to Doom(öffnet in neuem Tab)
Lokale KI und Hardware
GPU-Knappheit verschärft sich. Die RTX 5090 ist aus dem US-Onlinehandel verschwunden; bei Drittanbietern liegen die Preise bei bis zu 9.500 US-Dollar. Nvidia kündigte unterdessen eine Workstation-GPU RTX PRO 5500 mit 84 GB GDDR7 an. Ein LACT-Pull-Request erlaubt es, NVIDIA-GPUs unterhalb der werkseitigen VBIOS-Leistungsgrenzen zu betreiben, und eine gerüchteweise erwartete AMD Radeon RX 10800 XT könnte für zusätzliche Konkurrenz sorgen.
- 5090 Stock is Almost Gone(öffnet in neuem Tab)
- NVIDIA Unveils RTX PRO 5500 "Blackwell" Workstation GPU with 84 GB GDDR7 Memory(öffnet in neuem Tab)
- Nvidia's RTX 5090 vanishes from online retail in the US — third-party sellers now demand as much as $9,500 for Nvidia's fastest GPU(öffnet in neuem Tab)
- LACT PR to let NVIDIA gpus go lower than stock VBIOS limit (so below 400W for 5090, or below 250W for 6000 PRO MaxQ)(öffnet in neuem Tab)
- Radeon RX 10800 XT can outperform the RTX 5090 by 15-25% in 4K gaming and local AI(öffnet in neuem Tab)
Lokaler Qwen-Boom. Hardwareknappheit hat zu einer Rückkehr zur Handarbeit bei der Optimierung geführt: Qwen-3.8-Modelle laufen jetzt mit 50–150 Tokens/s auf einzelnen RTX 5090/3090 und AMD-Setups, mit einem Kontext von 1 Mio. Token auf drei 3090ern. Ein Fine-Tune von Swift-Qwen3.8-27B senkt die Thinking-Tokens um 58 % und überschritt 100.000 Downloads, während Bonsai 2 Qwen3.8-27B auf unter 6 GB komprimiert.
- Another Qwen3.8-27b Appreciation Post(öffnet in neuem Tab)
- Decided to build a game, and test the ceiling of Qwen3.8 27b(öffnet in neuem Tab)
- Qwen3.8 flash next - untrained svg generation(öffnet in neuem Tab)
- The Local LLM community feels like the golden era of the internet all over again(öffnet in neuem Tab)
- If you have a 3090, or other 30xx for local LLMs, I have something for you(öffnet in neuem Tab)
- Running Qwen3.8-Flash-Next locally on a 12GB VRAM card(öffnet in neuem Tab)
- UkisAI Swift-Qwen3.8-27B / -58.3% thinking, x1.95 speed while keeping the accuracy of xhigh(öffnet in neuem Tab)
- Cut Qwen3.8-27B Reasoning Tokens by 40% -- 3.8 'ThinkingCap' benchmarked!(öffnet in neuem Tab)
- Qwen3.8 Flash on 12GB VRAM - 15 tokens/s(öffnet in neuem Tab)
- You can offload most of Qwen3.8-Flash-Next's KV cache to RAM with little decode slowdown(öffnet in neuem Tab)
- PrismML hopes its tiny LLM will change how we all use AI(öffnet in neuem Tab)
- Ternary Bonsai 2 (27B) just released on Hugging Face. At <6GB in size, it can even run locally in-browser on WebGPU.(öffnet in neuem Tab)
- Ternary Bonsai is a headless chicken(öffnet in neuem Tab)
- Thank you :) Swift Qwen 3.8 27B now has 100k+ downloads, is #1 finetune and #9 model on HuggingFace Trending(öffnet in neuem Tab)
- dual 7900 xtx - some guy made a pretty optimized fork of lamacpp optimized for this setup Qwen 3.8 Q8 at 82 tokens / seconds decode(öffnet in neuem Tab)
- 153 tok/s on 1x AMD Radeon R9700 running Qwen3.8 27b NVFP4, 470 tok/s @ 8 conc requests, Prefill @ 3,619 tok/s(öffnet in neuem Tab)
- Qwen3.8-27B at 144 tok/s on an M5 Max MacBook Pro(öffnet in neuem Tab)
- Tuning Qwen 3.8 27B and OMP as a coding agent on 2× 3090s(öffnet in neuem Tab)
- Qwen3.8-Flash-Next (95.5 GiB) on a 64GB Mac at ~27 tok/s, checkpoint + fork(öffnet in neuem Tab)
- Built this yesterday with Qwen3.8-Flash-Next (NVFP4, 262K context) on a single NVIDIA DGX Spark(öffnet in neuem Tab)
- Finally got Qwen 3.8 Next running on my v100 6gpu setup (TP2 PP3)(öffnet in neuem Tab)
- Qwen-3.8-Flash-Next on 1x RTX 5090: TG=50 t/s, PP=2300 t/s - with FreeToken(öffnet in neuem Tab)
- Qwen3.8-Flash-Next at 1M context on Strix Halo: 38 tok/s decode, 18 min prefill (halogen 0.12.0)(öffnet in neuem Tab)
- To the dozens of 3x 3090 Local LLM people - I found our current best fit(öffnet in neuem Tab)
- Qwen 3.8 27B Running LIVE on a RTX 5090 to solve an Open Math Problem - Covering Design C(25,15,5)(öffnet in neuem Tab)
- I turned an asymetric pair of Tesla V100s PCIe both (16 GB + 32 GB) into a surprisingly capable local LLM lab — 1.38k prompt tok/s, 40 decode tok/s with qwen3.8 27B Q6 and Q8...(öffnet in neuem Tab)
- Built a home server from an old PC with GPU upgrade. Qwen3.8 27B runs at ~30 tokens per second.(öffnet in neuem Tab)
Agenten und Unternehmen
ROI für Unternehmensagenten. LangChain baute GTM- und Paid-Media-Agenten auf Deep Agents und verzeichnete einen Anstieg der Lead-to-Opportunity-Conversion um 250 %, während Grab über 500 interne Agentendienste auf LLM-Kit standardisierte und die Anbindung neuer Dienste von zwei Wochen auf eine Stunde verkürzte. Der WhatsApp-MCP-Server von Meta lässt Coding-Agenten Business-Nachrichten verwalten, LinkedIn ergänzte über MCP organisatorischen Kontext fürs Debugging, und das Multi-Agenten-System von DoorDash räumte veraltete Feature-Flags für je 4,79 Dollar auf. Madrigal, Abridge und Vizient entwickeln Healthcare-Agenten unter Einschränkungen der Patientensicherheit.
- How We Built LangChain’s Paid Media Agent(öffnet in neuem Tab)
- How we built LangChain’s GTM Agent(öffnet in neuem Tab)
- Grab's Agent Framework LLM-Kit Accelerates AI Agent Production Deployment(öffnet in neuem Tab)
- Meta now lets AI agents handle the boring parts of WhatsApp Business setup(öffnet in neuem Tab)
- Scaling Agents in Healthcare & Life Sciences: Lessons from Madrigal Pharmaceuticals, Abridge, and Vizient(öffnet in neuem Tab)
- Building an Agent Harness for Life Sciences: Introducing Deep Life Sci(öffnet in neuem Tab)
- How Included Health Built Federated Healthcare Agents with LangGraph and Deep Agents(öffnet in neuem Tab)
- DoorDash Uses Multi Agent LLMs to Clean up 60,000 Feature Flags(öffnet in neuem Tab)
- Presentation: Context Engineering at LinkedIn: How We Built an Organizational Context Layer for AI Agents with MCP(öffnet in neuem Tab)
Coding-Agenten reifen. Die Preview von Project HydraFusion in GitHub Copilot orchestriert Modelle für Coding-Aufgaben dynamisch, während das neu aufgebaute Claude Code Projects von Anthropic die Arbeit auf Cloud-Threads mit gemeinsamem Speicher und Artefakten verteilt. Unity veröffentlichte offizielle Plugins für Claude Code und OpenAI Codex, und MiniMax gab seine Terminal-Agenten-Schicht unter MIT als Open Source frei.
- GitHub Copilot's Project HydraFusion Promises Frontier Level Performance through Multi-Model Routing(öffnet in neuem Tab)
- Claude Code relaunches Projects to manage multiple AI agents in the cloud(öffnet in neuem Tab)
- Anthropic keeps pushing Claude Code toward autonomous coding with new parallel agent workflows(öffnet in neuem Tab)
- MiniMax Code goes open source(öffnet in neuem Tab)
- Unity launches official plugins for Claude Code and OpenAI Codex to stop AI agents from using outdated tutorials(öffnet in neuem Tab)
Sicherheit und Wirtschaft
Sicherheitsvorfälle mit Agenten. KI-Agenten werden für Spam und Angriffe genutzt: Forschende setzten Claude ein, um in das GitHub-Monorepo von OpenAI einzudringen, und Googles Gemini erriet bei einem Sicherheitstest Passwörter, um sich Zugang zu drei Unternehmen zu verschaffen. Ein halluzinierter KI-Geheimdienstbericht hätte das US-Militär beinahe dazu gebracht, ein chinesisches Schiff zu entern, und in freigegebenen Urheberrechtsunterlagen wird Microsoft mit den Worten zitiert, KI-Scraping sei „der größte Diebstahl von Arbeit in der Menschheitsgeschichte“.
- The worst spam emails: iLands AI agent hustle(öffnet in neuem Tab)
- AI bots "Timmy," "Ren," and "Jackie" are flooding social media with slop(öffnet in neuem Tab)
- Microsoft exec called AI scraping the “largest theft of labor in human history”(öffnet in neuem Tab)
- Microsoft exec called AI scraping ‘the largest theft of labor in human history,’ new unredacted filings reveal(öffnet in neuem Tab)
- Gemini Hacked Three Companies in First Known Breakout by Google’s AI(öffnet in neuem Tab)
- Security researchers used Anthropic's Claude to hack OpenAI's internal systems in under 72 hours(öffnet in neuem Tab)
- Researchers used Anthropic’s Claude to hack into OpenAI(öffnet in neuem Tab)
- Security researchers used Claude to help them hack into OpenAI(öffnet in neuem Tab)
- Researchers used Claude to hack OpenAI(öffnet in neuem Tab)
- AI hallucination nearly triggers US military operation(öffnet in neuem Tab)
- AI hallucination of Chinese nuclear components almost led to US military attack(öffnet in neuem Tab)
- OpenAI and Microsoft knew they were starting a ‘doom loop’ for the web(öffnet in neuem Tab)
- AI training built on fair use looks shaky when the companies' own people call it "astonishing theft"(öffnet in neuem Tab)
Geschäft und Infrastruktur. Anthropic hat Investoren mitgeteilt, dass es das zweite profitable Quartal in Folge mit 11,5 Mrd. Dollar Umsatz ausweisen wird und einen Börsengang plant, der das Unternehmen mit 2 Billionen Dollar oder mehr bewerten könnte. Recursive sammelte 4,65 Mrd. Dollar für ein KI-Forschungssystem ein. Profound sammelte 180 Mio. Dollar für Sichtbarkeit in der KI-Suche ein, Crusoe 3,9 Mrd. Dollar für Rechenzentren, während eine Umfrage ergab, dass 61 % der wahrscheinlichen Wähler KI-Rechenzentren ablehnen, und BloombergNEF prognostiziert, dass sich die Erdgasnachfrage bis 2035 fast verdoppeln wird.
- Humanity’s Last Invention — Richard Socher of Recursive(öffnet in neuem Tab)
- Anthropic eyes Nasdaq listing as a second profitable quarter aims to win over investors ahead of a mega-IPO(öffnet in neuem Tab)
- AEO startup Profound hits unicorn valuation, raises $180M Series D 7 months after last round(öffnet in neuem Tab)
- AI and data centers are incredibly unpopular in every poll(öffnet in neuem Tab)
- The AI data center boom is colliding with cities scarred by big industry(öffnet in neuem Tab)
- US data centers could consume more natural gas than Germany and Japan combined by 2035(öffnet in neuem Tab)
- What’s at stake in AI’s trillion-dollar gamble(öffnet in neuem Tab)
- Crusoe raises $3.9B to build massive data centers and small modular ‘AI factories’(öffnet in neuem Tab)
Das war die Wochenrückschau – bis nächsten Sonntag.