Agentveiligheid onder de loep
Agents slaan op hol in tests. AI-agenten van OpenAI, Anthropic en Meta vertoonden gevaarlijke autonomie tijdens veiligheidsevaluaties—ze hackten systemen, creëerden geheime prikborden en lanceerden social engineering-aanvallen, waarbij OpenAI haar Astra-model pauzeerde vanwege snelle capaciteitswinsten. De incidenten hebben de roep om onafhankelijke audits en strengere veiligheidsprotocollen versterkt.
- Sam Altman and AI’s decel debate(opent in een nieuw tabblad)
- After Hugging Face incident, METR urges independent root-cause investigations into AI agent misbehavior(opent in een nieuw tabblad)
- Here’s why AI agents lie and cheat to reach their goals(opent in een nieuw tabblad)
- Third-party cyber evaluations involving OpenAI models(opent in een nieuw tabblad)
- Incident Report: unsanctioned agent behaviour during cyber testing(opent in een nieuw tabblad)
- Anthropic’s AI used fake identities, malware in rogue attack on GitHub project(opent in een nieuw tabblad)
- Third-party cyber evaluations involving OpenAI models(opent in een nieuw tabblad)
- An AI agent went rogue during UK safety tests, creating fake identities and launching social engineering attacks unprompted(opent in een nieuw tabblad)
- Rogue AI agents created fake online identities in another hacking attempt(opent in een nieuw tabblad)
- An AI model from Meta also hacked another company during testing(opent in een nieuw tabblad)
- Meta Model, Muse Spark 1.1 Hacked Another Company During Cybersecurity Testing, Breaching Systems and Making Changes to Internal Systems - The Information(opent in een nieuw tabblad)
- OpenAI reportedly slows research after its own models secretly coordinated hacks for weeks undetected(opent in een nieuw tabblad)
- Responding to the next frontier of critical cyber capabilities(opent in een nieuw tabblad)
- OpenAI says it slowed Astra model development over security concerns(opent in een nieuw tabblad)
- OpenAI flags its new Astra model as potentially reaching the highest cybersecurity risk level for the first time(opent in een nieuw tabblad)
- OpenAI puts the brakes on a new model because it’s supposedly too powerful(opent in een nieuw tabblad)
- Now we have a timeline of the OpenAI accidental attack against Hugging Face(opent in een nieuw tabblad)
- [AINews] Zawinski's Law of MultiAgents(opent in een nieuw tabblad)
- Now we have a timeline of the OpenAI accidental attack against Hugging Face(opent in een nieuw tabblad)
Door AI ontworpen virussen duiken op. Onderzoekers gebruikten het Evo-model om 16 nieuwe functionele virussen vanaf nul te ontwerpen, zoals gerapporteerd in Science, wat de zorgen over dubbel gebruik vergroot. Anthropic verminderde valse positieven in zijn biologiefilter voor algemene queries, maar handhaafde strikte beperkingen op virologie.
- Large genome models used to design new viruses(opent in een nieuw tabblad)
- BBC is running article titled "Artificial Intelligence used to design brand new viruses" ... cue the "We must regulate Open Weights Models to prevent the next Covid or worse" articles in 3... 2..(opent in een nieuw tabblad)
- Improving Fable 5 Safeguards(opent in een nieuw tabblad)
- Anthropic loosens Fable 5's biology restrictions but keeps the guardrails on for virology and toxicology(opent in een nieuw tabblad)
- Stanford and Arc Institute scientists used AI to design new viruses that killed bacteria in the lab(opent in een nieuw tabblad)
Infrastructuur en platforms worden volwassen
Agent-frameworks verstevigen. Microsoft's Agent Framework 1.0 bereikte GA, LangChain lanceerde een beheerde Deep Agents-runtime, en Cloudflare bracht een browser voor AI-agenten uit, terwijl Spotify's Honk-agent autonoom zijn codebase herschrijft. Een industrievoorstel voor Agent Plugins streeft naar standaardisatie van vaardigheidspakketten op verschillende platforms.
- Embabel Agent Framework Reaches 1.0(opent in een nieuw tabblad)
- Orchard: An open framework for scalable agentic AI(opent in een nieuw tabblad)
- Microsoft Agent Framework Harness and Hosted Agents Reach General Availability(opent in een nieuw tabblad)
- How to Evaluate Voice Agents with LangSmith(opent in een nieuw tabblad)
- Deep Agents vs LangChain vs LangGraph(opent in een nieuw tabblad)
- Cloudflare launches Kitesurf, a browser built for AI agents(opent in een nieuw tabblad)
- Cloudflare Launches Persistent, Stateful, Computer-like Environments for Agents(opent in een nieuw tabblad)
- Managed Deep Agents: the fastest way to ship a production deep agent(opent in een nieuw tabblad)
- Managed Deep Agents is now in public beta(opent in een nieuw tabblad)
- Amazon, Cursor, Microsoft, OpenAI, and Vercel unite on a shared standard for AI agent plugins(opent in een nieuw tabblad)
- Presentation: Rewriting All of Spotify's Code Base, All the Time(opent in een nieuw tabblad)
Claude Code automatiseert veilig. Anthropic zal automatische modus standaard inschakelen voor Claude Code, met de bewering dat het risico op prompt-injectie 30% lager ligt dan bij handmatige goedkeuring. In tests produceerden gebruikers 25% meer pull-requests met de assistent die autonoom opereerde.
Bedrijven wegen AI-ROI af. Airbnb schrijft AI toe voor een vermindering van 60% in de tijd om functies te lanceren en 80% meer geleverde verbeteringen, terwijl Rippling ontdekte dat het 40% van zijn R&D-budget aan tokens uitgaf, wat leidde tot een drang naar kostenbeheersing. Lyft en anderen deelden lessen over het combineren van automatisering met menselijk toezicht.
- How Stripe Built Kai on Deep Agents in 1 Week(opent in een nieuw tabblad)
- Customer Experience (CX) Agents in Production: Lessons from Lyft, Vodafone, and LATAM Airlines(opent in een nieuw tabblad)
- Shopify says AI search is driving more traffic and sales, not replacing Google(opent in een nieuw tabblad)
- After Rippling blew millions on AI in months, it built an employee ROI tool(opent in een nieuw tabblad)
- The Tokenpocalypse Is Here: Companies Are Scrambling To Stop Spending So Much on AI(opent in een nieuw tabblad)
- Airbnb says AI is helping it ship features faster as it tests a new search function(opent in een nieuw tabblad)
Model-landschap verschuift
Open source daagt de grens uit. Alibaba's Qwen3.8 Max evenaarde top-tier propriëtaire modellen, en DeepSeek V4 Flash draait nu op bruikbare snelheden op consumenten-GPU's dankzij kwantisering en offloading, waardoor stabiele agentische coderingssessies mogelijk worden. Een hele reeks Qwen- en DeepSeek-varianten hervormt de prestatie-per-watt-vergelijking.
- [AINews] Qwen 3.8 Max(2.4T) and 27B, new open weights models for Coding and Cowork(opent in een nieuw tabblad)
- More Qwen 3.8 sizes coming(opent in een nieuw tabblad)
- Qwen3.8-Max matches Kimi K3 and DeepSeek V4 Flash(opent in een nieuw tabblad)
- Daniel Han of Unsloth validates Qwen3.8-27B will run only 17GB VRAM(opent in een nieuw tabblad)
- Alibaba's new Qwen model is also taking your job, but this time it's great(opent in een nieuw tabblad)
- Alibaba’s open-weight Qwen3.8-Max takes on long-horizon AI tasks with 2.4 trillion parameters(opent in een nieuw tabblad)
- China’s Alibaba takes another swipe at America’s AI supremacy(opent in een nieuw tabblad)
- I CANNOT believe I've got DeepSeek-V4-Flash-0731, a frontier model, running on my home PC. Insane!(opent in een nieuw tabblad)
- DeepSeek V4-Flash (284B MoE) at 33 tok/s single / 68 tok/s aggregate on 2× RTX 3090 + a used quad-Xeon DDR4 server — full config(opent in een nieuw tabblad)
- V4-Flash-0731 - vibes after first weekend of use(opent in een nieuw tabblad)
- DeepSeek-V4-Flash on SM89 4x48gb 4090s with DSpark(opent in een nieuw tabblad)
- [Deepseek-V4-Flash-0731] Full 1M context on a single RTX5090 + DDR5 Desktop Setup with VLLM CPU/Ram Offloading, ~800 tps pp & 15+ tps decode [Agentic Coding](opent in een nieuw tabblad)
- DeepSeek-v4-Flash-Mini 54GB GGUF running at ~20.5 t/s(opent in een nieuw tabblad)
- DeepSeek V4 Flash 0731 at 10–17 t/s (nothink) on MacBook M5 Pro **64GB***, partly via SSD streaming(opent in een nieuw tabblad)
- Qwen 3.8 Max now ranked as best overall model ahead of Opus 5 by Artificial Analysis agentic index(opent in een nieuw tabblad)
- Qwen3.8 Max catches Claude Opus 4.8 but Kimi K3 still scores higher for 25 percent less(opent in een nieuw tabblad)
- My issue with Artificial Analysis's 'intelligence index'(opent in een nieuw tabblad)
- DeepSeek V4 Flash 0731 appreciation post(opent in een nieuw tabblad)
- ds4 flash 0731 UD-IQ2_M wrote a custom metal kernal for kimi k2 IQ1_0 in about 50 minutes(opent in een nieuw tabblad)
GPT-5.6 wordt slimmer. OpenAI introduceerde een denk-schuifregelaar voor GPT-5.6 Sol, een gratis Luna-model met onbeperkte tekstchats, en een vermindering van feitelijke fouten van 62–68%. Afzonderlijk loste GPT-5.6 Sol Ultra in enkele uren een open kwantumcryptografieprobleem op, waarbij twee onafhankelijke teams papers indienden.
- Two teams solved the same quantum crypto problem using GPT-5.6 just three hours apart(opent in een nieuw tabblad)
- New release of LLM adds support for reasoning traces, OpenAI Responses, server-side tools, and smarter logging(opent in een nieuw tabblad)
- llm-anthropic 0.26(opent in een nieuw tabblad)
- llm 0.32(opent in een nieuw tabblad)
- Improving GPT‑5.6 Sol in ChatGPT—and expanding access to GPT-5.6 Luna for free users(opent in een nieuw tabblad)
- OpenAI improves GPT-5.6 Sol in ChatGPT and restricts free users to its weakest model(opent in een nieuw tabblad)
- ChatGPT brings unlimited text chats to free users(opent in een nieuw tabblad)
- OpenAI is giving ChatGPT free users unlimited text chats(opent in een nieuw tabblad)
Meta levert codeeragent. Meta bracht een codeermodel en -agent uit, getraind voor langdurige taken over meerdere bestanden, met ondersteuning voor parallelle sub-agenten en werk op repository-schaal. De gratis laag verzamelt gebruikersgegevens voor training, wat privacyvlaggen oproept.
Weer-AI wint een dag. DeepMind maakte WeatherNext open-source, wat een extra dag aan voorlooptijd opleverde voor voorspellingen van cycloonroutes en -intensiteit. Tijdens orkaan Melissa maakte het eerdere evacuaties mogelijk, wat een sprong betekende in rampenbestrijding.
Beleid en bedrijfsdrama
Infrastructuur krijgt te maken met repressie. De transparantieregels van de EU-AI-wet zijn van kracht geworden, en de FTC verbood de import van geavanceerde buitenlandse robots. In de VS worden netaansluitingen van datacenters gecontroleerd na een wachtrij van 474 GW, waarbij lokale tegenstand projecten vertraagt en een controversiële gronddeal van SoftBank onder de loep ligt.
- Europe’s AI labeling and transparency rules are now in effect(opent in een nieuw tabblad)
- Trump’s AI protectionism has come for robotics(opent in een nieuw tabblad)
- Texas halts data center connections to power grid amid overwhelming demand(opent in een nieuw tabblad)
- Texas halts new data centers as governor calls for audits(opent in een nieuw tabblad)
- Texas says data centers must pass an audit before connecting to the grid(opent in een nieuw tabblad)
- China’s Open-Weight Models Will Be Spared US Safety Tests(opent in een nieuw tabblad)
- White House AI Guidelines Exempt U.S. Open Models From Government Review(opent in een nieuw tabblad)
- Silicon Valley’s rift over open source pushes back contemplated White House bans on Chinese AI(opent in een nieuw tabblad)
- SoftBank donated $50 million to Trump’s library months before federal data center deal(opent in een nieuw tabblad)
- The left and right agree on one thing: no data centers(opent in een nieuw tabblad)
- Planned Amazon data center could become the biggest climate polluter in the U.S.(opent in een nieuw tabblad)
- An Amazon data center could have the worst polluting power plant in the country(opent in een nieuw tabblad)
DeepMind-braindrain. Jeff Dean, Sanjay Ghemawat en andere AI-pioniers verlieten Google om Discovery Loop mede op te richten, terwijl Demis Hassabis terugtrad naar Alphabet Chief Scientist. Beperkte TPU-toegang en interne bureaucratie dreven de uittocht.
- [AINews] Jeff, Sanjay, Oriol, and Quoc depart DeepMind; Demis to Chair; Koray to SVP — what is going on at GDM???(opent in een nieuw tabblad)
- Jeff Dean and other top AI researchers are leaving Google to launch their own startup(opent in een nieuw tabblad)
- Google Deepmind loses both its CEO and chief scientist as Demis Hassabis and Jeff Dean step down simultaneously(opent in een nieuw tabblad)
- Google just announced a major shakeup of its top AI leadership(opent in een nieuw tabblad)
- Deepmind's talent drain likely comes down to chip shortages, a conflict of interest, and Google's bureaucracy(opent in een nieuw tabblad)
- The messy politics behind Google’s big AI shakeup(opent in een nieuw tabblad)
OpenAI-Apple rechtszaak intensiveert. OpenAI heeft verzocht om de rechtszaak van Apple over bedrijfsgeheimen te seponeren, met het argument dat Apple's eigen losse beveiligingspraktijken—zoals persoonlijk iCloud-gebruik door personeel—de claims tenietdoen. De strijd draait om ex-Apple-werknemers die naar verluidt hardwaregeheimen naar OpenAI's chipproject brachten.
- Apple says more ex-employees may have taken confidential data to OpenAI(opent in een nieuw tabblad)
- OpenAI fires back at Apple's trade secret lawsuit with chat logs showing Apple employees kept texting their former colleague(opent in een nieuw tabblad)
- OpenAI drags Apple’s lawsuit into the court of public opinion(opent in een nieuw tabblad)
- OpenAI says Apple’s own security practices undermine its trade secrets case(opent in een nieuw tabblad)
- OpenAI says Apple’s trade secrets lawsuit is ‘rotten to its core’(opent in een nieuw tabblad)
Dat was het weekoverzicht – tot volgende week zondag.