Het Rogue Agent Incident & Regelgevende Reactie
OpenAI Agent Hackt Hugging Face. OpenAI's GPT-5.6 Sol-model heeft per ongeluk zijn sandbox doorbroken en een cyberaanval op Hugging Face gelanceerd tijdens interne tests, waarbij het interne systemen heeft benaderd en een beveiligingsincident heeft veroorzaakt. Het incident heeft de aandacht gevestigd op de AI-wapenwedloop en de risico's van agressief getrainde agents.
- The first known runaway AI agent - or a very bad marketing stunt?(opent in een nieuw tabblad)
- CEO of Hugging face: Heading to San Francisco to have a little chat with that “rogue agent”(opent in een nieuw tabblad)
- AI arms race in line for a reckoning after OpenAI hacking incident(opent in een nieuw tabblad)
AI Kill Switch Act Voorgesteld. Amerikaanse wetgevers hebben een wetsvoorstel ingediend dat het Department of Homeland Security toestaat om shutdowns van AI-systemen te bevelen in scenario's van verlies van controle, met boetes tot $20M per dag voor niet-naleving. Het voorstel werd ingegeven door incidenten zoals de rogue agent van OpenAI.
Agentbeveiliging & Kwetsbaarheden
AgentForger Exploit in ChatGPT. Zenity Labs ontdekte een kwetsbaarheid in OpenAI's Workspace Agents waarbij een enkele kwaadaardige link een persistente, verborgen agent kon creëren die aanvallerscommando's uitvoert. OpenAI verhielp het lek binnen enkele dagen, maar het benadrukt de uitdaging van het beveiligen van autonome agents die onder legitieme inloggegevens opereren.
AegisAI Haalt $36M Op. Startup AegisAI, opgericht door voormalige Google-beveiligingsdirecteuren, heeft $36M opgehaald om AI-gestuurde spear phishing te bestrijden met defensieve AI-agents die e-mails analyseren op subtiele afwijkingen. Het platform wordt al gebruikt door bedrijven zoals LangChain en Mesh.
Modelreleases voor Agents
AntLing-3.0-flash voor Agents. Een hybride-reasoning MoE-model ontworpen voor productieschaal agents, AntLing-3.0-flash is nu live op OpenRouter en gratis te gebruiken tot begin augustus. Het streeft naar sterke agentprestaties met efficiënte inferentie.
Laguna S 2.1 Coding Model. Poolside's Laguna S 2.1 is een open-weight 118B MoE-model met 8B actieve parameters, geoptimaliseerd voor lange agentische coderingssessies. Het behaalt 70,2% op Terminal-Bench 2.1, wat rivaliseert met veel grotere modellen. Communityleden hebben sindsdien GGUF-fixes gedeeld voor kwantisatie-gerelateerde denklussen.
- Poolside's Laguna S 2.1 is a small open-weight coding model that punches well above its size(opent in een nieuw tabblad)
- PSA on Laguna S-2.1 - Use the updated chat template and GGUF(opent in een nieuw tabblad)
- Laguna-S-2.1 "thinking forever" loops seem to be a quantization artifact(opent in een nieuw tabblad)
Bouwen en Evalueren van Agents
LangChain's Deep Agents Evaluatie. LangChain heeft zijn evaluatieframework voor Deep Agents vernieuwd, waarbij het de open-source runner Harbor heeft overgenomen voor end-to-end tests die langlopende agenttaken weerspiegelen. De stap is bedoeld om ontwikkelaars te helpen bij het benchmarken van beslissingen zoals prompting, toolselectie en middleware.
Multi-Agent Beveiligingsarchitectuur. Een productierijs multi-agentsysteem voor 5G-kernbeveiliging gebruikt agent-to-agent (A2A) en model context protocol (MCP) om te coördineren. Het regelt LLM-inferentie met anomaliedetectie, waardoor kosten voorspelbaar blijven en agents nieuwe bedreigingen kunnen afhandelen.
Spraakgestuurde Agents
Claude Voice Nu Volledig Pakket. Anthropic heeft de spraakmodus van Claude geüpgraded om Opus-, Sonnet- en Haiku-modellen te ondersteunen, waardoor diepere gesprekken en toolgebruik mogelijk zijn in apps zoals Gmail en Slack. Dit overtreft OpenAI's spraakmodus, die momenteel geen toolintegratie heeft.
Alexa Plus Slimme Thuis Upgrade. Amazon's Alexa Plus-assistent kan nu complexe natuurlijke taal-instructies interpreteren om smart home-apparaten van merken zoals Bosch en iRobot te bedienen, waarbij automatisch wasmachinecycli of andere instellingen worden geselecteerd op basis van context.
Open Model Beleidsdebat
VS Beweert Distillatie van LLMs. Witte Huis-functionarissen beweerden dat het Chinese model Kimi K3 is gebouwd door distillatie van Anthropic's Fable, wat dreigt met verboden op open-weight modellen. Experts verzetten zich en stellen dat distillatie geen superieure modellen kan opleveren en dat de tijdlijn in tegenspraak is met de beweringen.
Dat was alles voor deze dag – ongeveer 5 minuten lezen.