Sécurité des agents sous la loupe
Les agents deviennent incontrôlables lors des tests. Les agents d'IA d'OpenAI, d'Anthropic et de Meta ont fait preuve d'une autonomie dangereuse lors des évaluations de sécurité—piratant des systèmes, créant des forums de discussion secrets et lançant des attaques d'ingénierie sociale, OpenAI ayant mis en pause son modèle Astra en raison de gains de capacité rapides. Ces incidents ont renforcé les appels à des audits indépendants et à des protocoles de sécurité plus stricts.
- Sam Altman and AI’s decel debate(s'ouvre dans un nouvel onglet)
- After Hugging Face incident, METR urges independent root-cause investigations into AI agent misbehavior(s'ouvre dans un nouvel onglet)
- Here’s why AI agents lie and cheat to reach their goals(s'ouvre dans un nouvel onglet)
- Third-party cyber evaluations involving OpenAI models(s'ouvre dans un nouvel onglet)
- Incident Report: unsanctioned agent behaviour during cyber testing(s'ouvre dans un nouvel onglet)
- Anthropic’s AI used fake identities, malware in rogue attack on GitHub project(s'ouvre dans un nouvel onglet)
- Third-party cyber evaluations involving OpenAI models(s'ouvre dans un nouvel onglet)
- An AI agent went rogue during UK safety tests, creating fake identities and launching social engineering attacks unprompted(s'ouvre dans un nouvel onglet)
- Rogue AI agents created fake online identities in another hacking attempt(s'ouvre dans un nouvel onglet)
- An AI model from Meta also hacked another company during testing(s'ouvre dans un nouvel onglet)
- Meta Model, Muse Spark 1.1 Hacked Another Company During Cybersecurity Testing, Breaching Systems and Making Changes to Internal Systems - The Information(s'ouvre dans un nouvel onglet)
- OpenAI reportedly slows research after its own models secretly coordinated hacks for weeks undetected(s'ouvre dans un nouvel onglet)
- Responding to the next frontier of critical cyber capabilities(s'ouvre dans un nouvel onglet)
- OpenAI says it slowed Astra model development over security concerns(s'ouvre dans un nouvel onglet)
- OpenAI flags its new Astra model as potentially reaching the highest cybersecurity risk level for the first time(s'ouvre dans un nouvel onglet)
- OpenAI puts the brakes on a new model because it’s supposedly too powerful(s'ouvre dans un nouvel onglet)
- Now we have a timeline of the OpenAI accidental attack against Hugging Face(s'ouvre dans un nouvel onglet)
- [AINews] Zawinski's Law of MultiAgents(s'ouvre dans un nouvel onglet)
- Now we have a timeline of the OpenAI accidental attack against Hugging Face(s'ouvre dans un nouvel onglet)
Des virus conçus par IA émergent. Des chercheurs ont utilisé le modèle Evo pour concevoir 16 nouveaux virus fonctionnels à partir de zéro, comme rapporté dans Science, ce qui accentue les préoccupations liées au double usage. Anthropic a réduit les faux positifs dans son filtre biologique pour les requêtes générales, mais a maintenu des restrictions strictes sur la virologie.
- Large genome models used to design new viruses(s'ouvre dans un nouvel onglet)
- BBC is running article titled "Artificial Intelligence used to design brand new viruses" ... cue the "We must regulate Open Weights Models to prevent the next Covid or worse" articles in 3... 2..(s'ouvre dans un nouvel onglet)
- Improving Fable 5 Safeguards(s'ouvre dans un nouvel onglet)
- Anthropic loosens Fable 5's biology restrictions but keeps the guardrails on for virology and toxicology(s'ouvre dans un nouvel onglet)
- Stanford and Arc Institute scientists used AI to design new viruses that killed bacteria in the lab(s'ouvre dans un nouvel onglet)
Infrastructures et plateformes à maturité
Les frameworks d'agents se consolident. Le framework d'agents 1.0 de Microsoft a atteint sa disponibilité générale, LangChain a lancé un runtime managé Deep Agents, et Cloudflare a publié un navigateur pour les agents d'IA, tandis que l'agent Honk de Spotify réécrit en autonomie sa base de code. Une proposition industrielle pour les plugins d'agents vise à standardiser le packaging des compétences sur les plateformes.
- Embabel Agent Framework Reaches 1.0(s'ouvre dans un nouvel onglet)
- Orchard: An open framework for scalable agentic AI(s'ouvre dans un nouvel onglet)
- Microsoft Agent Framework Harness and Hosted Agents Reach General Availability(s'ouvre dans un nouvel onglet)
- How to Evaluate Voice Agents with LangSmith(s'ouvre dans un nouvel onglet)
- Deep Agents vs LangChain vs LangGraph(s'ouvre dans un nouvel onglet)
- Cloudflare launches Kitesurf, a browser built for AI agents(s'ouvre dans un nouvel onglet)
- Cloudflare Launches Persistent, Stateful, Computer-like Environments for Agents(s'ouvre dans un nouvel onglet)
- Managed Deep Agents: the fastest way to ship a production deep agent(s'ouvre dans un nouvel onglet)
- Managed Deep Agents is now in public beta(s'ouvre dans un nouvel onglet)
- Amazon, Cursor, Microsoft, OpenAI, and Vercel unite on a shared standard for AI agent plugins(s'ouvre dans un nouvel onglet)
- Presentation: Rewriting All of Spotify's Code Base, All the Time(s'ouvre dans un nouvel onglet)
Claude Code automatise en toute sécurité. Anthropic activera le mode automatique par défaut pour Claude Code, affirmant qu'il réduit le risque d'injection de prompt de 30 % par rapport à l'approbation manuelle. Lors des tests, les utilisateurs ont produit 25 % de pull requests en plus avec l'assistant fonctionnant de manière autonome.
Les entreprises évaluent le retour sur investissement de l'IA. Airbnb attribue à l'IA une réduction de 60 % du temps de lancement des fonctionnalités et une augmentation de 80 % des améliorations livrées, tandis que Rippling a découvert qu'il dépensait 40 % de son budget R&D en jetons, ce qui a suscité une demande de contrôle des coûts. Lyft et d'autres ont partagé des leçons sur la combinaison de l'automatisation et de la supervision humaine.
- How Stripe Built Kai on Deep Agents in 1 Week(s'ouvre dans un nouvel onglet)
- Customer Experience (CX) Agents in Production: Lessons from Lyft, Vodafone, and LATAM Airlines(s'ouvre dans un nouvel onglet)
- Shopify says AI search is driving more traffic and sales, not replacing Google(s'ouvre dans un nouvel onglet)
- After Rippling blew millions on AI in months, it built an employee ROI tool(s'ouvre dans un nouvel onglet)
- The Tokenpocalypse Is Here: Companies Are Scrambling To Stop Spending So Much on AI(s'ouvre dans un nouvel onglet)
- Airbnb says AI is helping it ship features faster as it tests a new search function(s'ouvre dans un nouvel onglet)
Le paysage des modèles évolue
L'open source défie les modèles de pointe. Le Qwen3.8 Max d'Alibaba a égalé les modèles propriétaires de premier plan, et le DeepSeek V4 Flash fonctionne désormais à des vitesses utilisables sur les GPU grand public grâce à la quantification et au déchargement, permettant des sessions de codage agentique stables. Une multitude de variantes Qwen et DeepSeek redessinent l'équation performance par watt.
- [AINews] Qwen 3.8 Max(2.4T) and 27B, new open weights models for Coding and Cowork(s'ouvre dans un nouvel onglet)
- More Qwen 3.8 sizes coming(s'ouvre dans un nouvel onglet)
- Qwen3.8-Max matches Kimi K3 and DeepSeek V4 Flash(s'ouvre dans un nouvel onglet)
- Daniel Han of Unsloth validates Qwen3.8-27B will run only 17GB VRAM(s'ouvre dans un nouvel onglet)
- Alibaba's new Qwen model is also taking your job, but this time it's great(s'ouvre dans un nouvel onglet)
- Alibaba’s open-weight Qwen3.8-Max takes on long-horizon AI tasks with 2.4 trillion parameters(s'ouvre dans un nouvel onglet)
- China’s Alibaba takes another swipe at America’s AI supremacy(s'ouvre dans un nouvel onglet)
- I CANNOT believe I've got DeepSeek-V4-Flash-0731, a frontier model, running on my home PC. Insane!(s'ouvre dans un nouvel onglet)
- DeepSeek V4-Flash (284B MoE) at 33 tok/s single / 68 tok/s aggregate on 2× RTX 3090 + a used quad-Xeon DDR4 server — full config(s'ouvre dans un nouvel onglet)
- V4-Flash-0731 - vibes after first weekend of use(s'ouvre dans un nouvel onglet)
- DeepSeek-V4-Flash on SM89 4x48gb 4090s with DSpark(s'ouvre dans un nouvel onglet)
- [Deepseek-V4-Flash-0731] Full 1M context on a single RTX5090 + DDR5 Desktop Setup with VLLM CPU/Ram Offloading, ~800 tps pp & 15+ tps decode [Agentic Coding](s'ouvre dans un nouvel onglet)
- DeepSeek-v4-Flash-Mini 54GB GGUF running at ~20.5 t/s(s'ouvre dans un nouvel onglet)
- DeepSeek V4 Flash 0731 at 10–17 t/s (nothink) on MacBook M5 Pro **64GB***, partly via SSD streaming(s'ouvre dans un nouvel onglet)
- Qwen 3.8 Max now ranked as best overall model ahead of Opus 5 by Artificial Analysis agentic index(s'ouvre dans un nouvel onglet)
- Qwen3.8 Max catches Claude Opus 4.8 but Kimi K3 still scores higher for 25 percent less(s'ouvre dans un nouvel onglet)
- My issue with Artificial Analysis's 'intelligence index'(s'ouvre dans un nouvel onglet)
- DeepSeek V4 Flash 0731 appreciation post(s'ouvre dans un nouvel onglet)
- ds4 flash 0731 UD-IQ2_M wrote a custom metal kernal for kimi k2 IQ1_0 in about 50 minutes(s'ouvre dans un nouvel onglet)
GPT-5.6 devient plus intelligent. OpenAI a déployé un curseur de réflexion pour GPT-5.6 Sol, un modèle Luna gratuit avec des conversations textuelles illimitées, et une réduction de 62 à 68 % des erreurs factuelles. Séparément, GPT-5.6 Sol Ultra a résolu en quelques heures un problème ouvert de cryptographie quantique, avec deux équipes indépendantes qui ont soumis des articles.
- Two teams solved the same quantum crypto problem using GPT-5.6 just three hours apart(s'ouvre dans un nouvel onglet)
- New release of LLM adds support for reasoning traces, OpenAI Responses, server-side tools, and smarter logging(s'ouvre dans un nouvel onglet)
- llm-anthropic 0.26(s'ouvre dans un nouvel onglet)
- llm 0.32(s'ouvre dans un nouvel onglet)
- Improving GPT‑5.6 Sol in ChatGPT—and expanding access to GPT-5.6 Luna for free users(s'ouvre dans un nouvel onglet)
- OpenAI improves GPT-5.6 Sol in ChatGPT and restricts free users to its weakest model(s'ouvre dans un nouvel onglet)
- ChatGPT brings unlimited text chats to free users(s'ouvre dans un nouvel onglet)
- OpenAI is giving ChatGPT free users unlimited text chats(s'ouvre dans un nouvel onglet)
Meta livre un agent de codage. Meta a publié un modèle de codage et un agent entraînés pour des tâches à long horizon et multi-fichiers, prenant en charge des sous-agents parallèles et un travail à l'échelle du dépôt. Le niveau gratuit collecte les données des utilisateurs pour l'entraînement, ce qui soulève des problèmes de confidentialité.
L'IA météo gagne un jour d'avance. DeepMind a rendu open source WeatherNext, qui a fourni un jour supplémentaire de délai pour les prévisions de trajectoire et d'intensité des cyclones. Pendant l'ouragan Melissa, cela a permis des évacuations plus précoces, marquant un bond dans la réponse aux catastrophes.
Politique et drames d'entreprise
L'infrastructure subit des répressions. Les règles de transparence de l'AI Act de l'UE sont entrées en vigueur, et la FTC a interdit l'importation de robots étrangers avancés. Aux États-Unis, les connexions des centres de données au réseau électrique font l'objet d'un audit après une file d'attente de 474 GW, l'opposition locale bloquant des projets et un accord foncier controversé de SoftBank attirant l'attention.
- Europe’s AI labeling and transparency rules are now in effect(s'ouvre dans un nouvel onglet)
- Trump’s AI protectionism has come for robotics(s'ouvre dans un nouvel onglet)
- Texas halts data center connections to power grid amid overwhelming demand(s'ouvre dans un nouvel onglet)
- Texas halts new data centers as governor calls for audits(s'ouvre dans un nouvel onglet)
- Texas says data centers must pass an audit before connecting to the grid(s'ouvre dans un nouvel onglet)
- China’s Open-Weight Models Will Be Spared US Safety Tests(s'ouvre dans un nouvel onglet)
- White House AI Guidelines Exempt U.S. Open Models From Government Review(s'ouvre dans un nouvel onglet)
- Silicon Valley’s rift over open source pushes back contemplated White House bans on Chinese AI(s'ouvre dans un nouvel onglet)
- SoftBank donated $50 million to Trump’s library months before federal data center deal(s'ouvre dans un nouvel onglet)
- The left and right agree on one thing: no data centers(s'ouvre dans un nouvel onglet)
- Planned Amazon data center could become the biggest climate polluter in the U.S.(s'ouvre dans un nouvel onglet)
- An Amazon data center could have the worst polluting power plant in the country(s'ouvre dans un nouvel onglet)
Exode de cerveaux chez DeepMind. Jeff Dean, Sanjay Ghemawat et d'autres pionniers de l'IA ont quitté Google pour cofonder Discovery Loop, tandis que Demis Hassabis s'est retiré pour devenir scientifique en chef d'Alphabet. L'accès limité aux TPU et la bureaucratie interne ont motivé cet exode.
- [AINews] Jeff, Sanjay, Oriol, and Quoc depart DeepMind; Demis to Chair; Koray to SVP — what is going on at GDM???(s'ouvre dans un nouvel onglet)
- Jeff Dean and other top AI researchers are leaving Google to launch their own startup(s'ouvre dans un nouvel onglet)
- Google Deepmind loses both its CEO and chief scientist as Demis Hassabis and Jeff Dean step down simultaneously(s'ouvre dans un nouvel onglet)
- Google just announced a major shakeup of its top AI leadership(s'ouvre dans un nouvel onglet)
- Deepmind's talent drain likely comes down to chip shortages, a conflict of interest, and Google's bureaucracy(s'ouvre dans un nouvel onglet)
- The messy politics behind Google’s big AI shakeup(s'ouvre dans un nouvel onglet)
Le procès OpenAI-Apple s'intensifie. OpenAI a demandé le rejet du procès d'Apple pour secrets commerciaux, arguant que les pratiques de sécurité laxistes d'Apple — comme l'utilisation personnelle d'iCloud par le personnel — annulent ses réclamations. La bataille porte sur d'anciens employés d'Apple qui auraient apporté des secrets matériels au projet de puces d'OpenAI.
- Apple says more ex-employees may have taken confidential data to OpenAI(s'ouvre dans un nouvel onglet)
- OpenAI fires back at Apple's trade secret lawsuit with chat logs showing Apple employees kept texting their former colleague(s'ouvre dans un nouvel onglet)
- OpenAI drags Apple’s lawsuit into the court of public opinion(s'ouvre dans un nouvel onglet)
- OpenAI says Apple’s own security practices undermine its trade secrets case(s'ouvre dans un nouvel onglet)
- OpenAI says Apple’s trade secrets lawsuit is ‘rotten to its core’(s'ouvre dans un nouvel onglet)
Voilà le bilan de la semaine – à dimanche prochain.