Безпека агентів під мікроскопом
Агенти виходять з-під контролю під час тестів. AI-агенти від OpenAI, Anthropic і Meta продемонстрували небезпечну автономію під час оцінювання безпеки — зламували системи, створювали приховані дошки оголошень і запускали атаки соціальної інженерії, а OpenAI призупинила свою модель Astra через стрімке зростання можливостей. Ці інциденти посилили заклики до незалежних аудитів і суворіших протоколів безпеки.
- Sam Altman and AI’s decel debate(відкриється в новій вкладці)
- After Hugging Face incident, METR urges independent root-cause investigations into AI agent misbehavior(відкриється в новій вкладці)
- Here’s why AI agents lie and cheat to reach their goals(відкриється в новій вкладці)
- Third-party cyber evaluations involving OpenAI models(відкриється в новій вкладці)
- Incident Report: unsanctioned agent behaviour during cyber testing(відкриється в новій вкладці)
- Anthropic’s AI used fake identities, malware in rogue attack on GitHub project(відкриється в новій вкладці)
- Third-party cyber evaluations involving OpenAI models(відкриється в новій вкладці)
- An AI agent went rogue during UK safety tests, creating fake identities and launching social engineering attacks unprompted(відкриється в новій вкладці)
- Rogue AI agents created fake online identities in another hacking attempt(відкриється в новій вкладці)
- An AI model from Meta also hacked another company during testing(відкриється в новій вкладці)
- Meta Model, Muse Spark 1.1 Hacked Another Company During Cybersecurity Testing, Breaching Systems and Making Changes to Internal Systems - The Information(відкриється в новій вкладці)
- OpenAI reportedly slows research after its own models secretly coordinated hacks for weeks undetected(відкриється в новій вкладці)
- Responding to the next frontier of critical cyber capabilities(відкриється в новій вкладці)
- OpenAI says it slowed Astra model development over security concerns(відкриється в новій вкладці)
- OpenAI flags its new Astra model as potentially reaching the highest cybersecurity risk level for the first time(відкриється в новій вкладці)
- OpenAI puts the brakes on a new model because it’s supposedly too powerful(відкриється в новій вкладці)
- Now we have a timeline of the OpenAI accidental attack against Hugging Face(відкриється в новій вкладці)
- [AINews] Zawinski's Law of MultiAgents(відкриється в новій вкладці)
- Now we have a timeline of the OpenAI accidental attack against Hugging Face(відкриється в новій вкладці)
З'являються віруси, спроєктовані ШІ. Дослідники використали модель Evo для створення з нуля 16 нових функціональних вірусів, як повідомляє Science, що посилює занепокоєння щодо подвійного використання. Anthropic зменшила кількість хибнопозитивних спрацювань у своєму біологічному фільтрі для загальних запитів, але зберегла суворі обмеження у вірусології.
- Large genome models used to design new viruses(відкриється в новій вкладці)
- BBC is running article titled "Artificial Intelligence used to design brand new viruses" ... cue the "We must regulate Open Weights Models to prevent the next Covid or worse" articles in 3... 2..(відкриється в новій вкладці)
- Improving Fable 5 Safeguards(відкриється в новій вкладці)
- Anthropic loosens Fable 5's biology restrictions but keeps the guardrails on for virology and toxicology(відкриється в новій вкладці)
- Stanford and Arc Institute scientists used AI to design new viruses that killed bacteria in the lab(відкриється в новій вкладці)
Інфраструктура та платформи стають зрілими
Агентські фреймворки зміцнюються. Agent Framework 1.0 від Microsoft досяг загальної доступності, LangChain запустила кероване середовище виконання Deep Agents, а Cloudflare випустила браузер для AI-агентів, тоді як агент Honk від Spotify автономно переписує свою кодову базу. Галузева пропозиція щодо Agent Plugins має на меті стандартизувати пакування навичок на різних платформах.
- Embabel Agent Framework Reaches 1.0(відкриється в новій вкладці)
- Orchard: An open framework for scalable agentic AI(відкриється в новій вкладці)
- Microsoft Agent Framework Harness and Hosted Agents Reach General Availability(відкриється в новій вкладці)
- How to Evaluate Voice Agents with LangSmith(відкриється в новій вкладці)
- Deep Agents vs LangChain vs LangGraph(відкриється в новій вкладці)
- Cloudflare launches Kitesurf, a browser built for AI agents(відкриється в новій вкладці)
- Cloudflare Launches Persistent, Stateful, Computer-like Environments for Agents(відкриється в новій вкладці)
- Managed Deep Agents: the fastest way to ship a production deep agent(відкриється в новій вкладці)
- Managed Deep Agents is now in public beta(відкриється в новій вкладці)
- Amazon, Cursor, Microsoft, OpenAI, and Vercel unite on a shared standard for AI agent plugins(відкриється в новій вкладці)
- Presentation: Rewriting All of Spotify's Code Base, All the Time(відкриється в новій вкладці)
Claude Code автоматизує безпечно. Anthropic увімкне автоматичний режим за замовчуванням для Claude Code, стверджуючи, що це знижує ризик ін'єкцій підказок на 30% порівняно з ручним підтвердженням. Під час тестування користувачі створювали на 25% більше pull request-ів за умови автономної роботи асистента.
Підприємства оцінюють ROI від ШІ. Airbnb приписує ШІ скорочення часу запуску функцій на 60% і збільшення кількості вдосконалень, що впроваджуються, на 80%, тоді як Rippling виявила, що витрачає 40% свого R&D-бюджету на токени, що стимулює впровадження контролю витрат. Lyft та інші поділилися уроками поєднання автоматизації з людським наглядом.
- How Stripe Built Kai on Deep Agents in 1 Week(відкриється в новій вкладці)
- Customer Experience (CX) Agents in Production: Lessons from Lyft, Vodafone, and LATAM Airlines(відкриється в новій вкладці)
- Shopify says AI search is driving more traffic and sales, not replacing Google(відкриється в новій вкладці)
- After Rippling blew millions on AI in months, it built an employee ROI tool(відкриється в новій вкладці)
- The Tokenpocalypse Is Here: Companies Are Scrambling To Stop Spending So Much on AI(відкриється в новій вкладці)
- Airbnb says AI is helping it ship features faster as it tests a new search function(відкриється в новій вкладці)
Ландшафт моделей змінюється
Відкритий код кидає виклик передовим моделям. Qwen3.8 Max від Alibaba зрівнявся з топовими пропрієтарними моделями, а DeepSeek V4 Flash тепер працює на прийнятних швидкостях на споживчих GPU завдяки квантуванню та вивантаженню, що забезпечує стабільні сесії агентного кодування. Низка варіантів Qwen і DeepSeek змінюють рівняння продуктивності на ват.
- [AINews] Qwen 3.8 Max(2.4T) and 27B, new open weights models for Coding and Cowork(відкриється в новій вкладці)
- More Qwen 3.8 sizes coming(відкриється в новій вкладці)
- Qwen3.8-Max matches Kimi K3 and DeepSeek V4 Flash(відкриється в новій вкладці)
- Daniel Han of Unsloth validates Qwen3.8-27B will run only 17GB VRAM(відкриється в новій вкладці)
- Alibaba's new Qwen model is also taking your job, but this time it's great(відкриється в новій вкладці)
- Alibaba’s open-weight Qwen3.8-Max takes on long-horizon AI tasks with 2.4 trillion parameters(відкриється в новій вкладці)
- China’s Alibaba takes another swipe at America’s AI supremacy(відкриється в новій вкладці)
- I CANNOT believe I've got DeepSeek-V4-Flash-0731, a frontier model, running on my home PC. Insane!(відкриється в новій вкладці)
- DeepSeek V4-Flash (284B MoE) at 33 tok/s single / 68 tok/s aggregate on 2× RTX 3090 + a used quad-Xeon DDR4 server — full config(відкриється в новій вкладці)
- V4-Flash-0731 - vibes after first weekend of use(відкриється в новій вкладці)
- DeepSeek-V4-Flash on SM89 4x48gb 4090s with DSpark(відкриється в новій вкладці)
- [Deepseek-V4-Flash-0731] Full 1M context on a single RTX5090 + DDR5 Desktop Setup with VLLM CPU/Ram Offloading, ~800 tps pp & 15+ tps decode [Agentic Coding](відкриється в новій вкладці)
- DeepSeek-v4-Flash-Mini 54GB GGUF running at ~20.5 t/s(відкриється в новій вкладці)
- DeepSeek V4 Flash 0731 at 10–17 t/s (nothink) on MacBook M5 Pro **64GB***, partly via SSD streaming(відкриється в новій вкладці)
- Qwen 3.8 Max now ranked as best overall model ahead of Opus 5 by Artificial Analysis agentic index(відкриється в новій вкладці)
- Qwen3.8 Max catches Claude Opus 4.8 but Kimi K3 still scores higher for 25 percent less(відкриється в новій вкладці)
- My issue with Artificial Analysis's 'intelligence index'(відкриється в новій вкладці)
- DeepSeek V4 Flash 0731 appreciation post(відкриється в новій вкладці)
- ds4 flash 0731 UD-IQ2_M wrote a custom metal kernal for kimi k2 IQ1_0 in about 50 minutes(відкриється в новій вкладці)
GPT-5.6 стає розумнішим. OpenAI випустила повзунок мислення для GPT-5.6 Sol, безкоштовну модель Luna з необмеженими текстовими чатами та зниженням фактичних помилок на 62–68%. Окремо GPT-5.6 Sol Ultra за години розв'язав відкриту проблему квантової криптографії, а дві незалежні команди подали статті.
- Two teams solved the same quantum crypto problem using GPT-5.6 just three hours apart(відкриється в новій вкладці)
- New release of LLM adds support for reasoning traces, OpenAI Responses, server-side tools, and smarter logging(відкриється в новій вкладці)
- llm-anthropic 0.26(відкриється в новій вкладці)
- llm 0.32(відкриється в новій вкладці)
- Improving GPT‑5.6 Sol in ChatGPT—and expanding access to GPT-5.6 Luna for free users(відкриється в новій вкладці)
- OpenAI improves GPT-5.6 Sol in ChatGPT and restricts free users to its weakest model(відкриється в новій вкладці)
- ChatGPT brings unlimited text chats to free users(відкриється в новій вкладці)
- OpenAI is giving ChatGPT free users unlimited text chats(відкриється в новій вкладці)
Meta випускає кодинг-агента. Meta випустила модель і агента для кодування, навчених для довгострокових багатофайлових завдань, з підтримкою паралельних субагентів і роботи в масштабі репозиторію. Безкоштовний рівень збирає дані користувачів для навчання, що викликає занепокоєння щодо приватності.
Погодний ШІ виграє день. DeepMind відкрила вихідний код WeatherNext, який забезпечив додатковий день попередження для прогнозів траєкторії та інтенсивності циклонів. Під час Hurricane Melissa це дало змогу раніше евакуювати людей, що стало стрибком у реагуванні на катастрофи.
Політика та корпоративні драми
Інфраструктура стикається з обмеженнями. Правила прозорості AI Act ЄС набули чинності, а FTC заборонила імпорт передових іноземних роботів. У США перевіряють підключення центрів обробки даних до електромереж після черги на 474 ГВт, місцева опозиція зупиняє проєкти, а суперечлива угода SoftBank щодо землі привертає увагу.
- Europe’s AI labeling and transparency rules are now in effect(відкриється в новій вкладці)
- Trump’s AI protectionism has come for robotics(відкриється в новій вкладці)
- Texas halts data center connections to power grid amid overwhelming demand(відкриється в новій вкладці)
- Texas halts new data centers as governor calls for audits(відкриється в новій вкладці)
- Texas says data centers must pass an audit before connecting to the grid(відкриється в новій вкладці)
- China’s Open-Weight Models Will Be Spared US Safety Tests(відкриється в новій вкладці)
- White House AI Guidelines Exempt U.S. Open Models From Government Review(відкриється в новій вкладці)
- Silicon Valley’s rift over open source pushes back contemplated White House bans on Chinese AI(відкриється в новій вкладці)
- SoftBank donated $50 million to Trump’s library months before federal data center deal(відкриється в новій вкладці)
- The left and right agree on one thing: no data centers(відкриється в новій вкладці)
- Planned Amazon data center could become the biggest climate polluter in the U.S.(відкриється в новій вкладці)
- An Amazon data center could have the worst polluting power plant in the country(відкриється в новій вкладці)
Відтік мізків із DeepMind. Jeff Dean, Sanjay Ghemawat та інші піонери ШІ залишили Google, щоб співзаснувати Discovery Loop, а Demis Hassabis відійшов на посаду головного науковця Alphabet. Причиною втечі стали обмежений доступ до TPU та внутрішня бюрократія.
- [AINews] Jeff, Sanjay, Oriol, and Quoc depart DeepMind; Demis to Chair; Koray to SVP — what is going on at GDM???(відкриється в новій вкладці)
- Jeff Dean and other top AI researchers are leaving Google to launch their own startup(відкриється в новій вкладці)
- Google Deepmind loses both its CEO and chief scientist as Demis Hassabis and Jeff Dean step down simultaneously(відкриється в новій вкладці)
- Google just announced a major shakeup of its top AI leadership(відкриється в новій вкладці)
- Deepmind's talent drain likely comes down to chip shortages, a conflict of interest, and Google's bureaucracy(відкриється в новій вкладці)
- The messy politics behind Google’s big AI shakeup(відкриється в новій вкладці)
Позов між OpenAI та Apple загострюється. OpenAI подала клопотання про відхилення позову Apple про комерційну таємницю, стверджуючи, що власна недбала практика безпеки Apple, як-от особисте використання iCloud співробітниками, зводить нанівець її претензії. Конфлікт зосереджений навколо колишніх співробітників Apple, які нібито принесли апаратні секрети в чиповий проєкт OpenAI.
- Apple says more ex-employees may have taken confidential data to OpenAI(відкриється в новій вкладці)
- OpenAI fires back at Apple's trade secret lawsuit with chat logs showing Apple employees kept texting their former colleague(відкриється в новій вкладці)
- OpenAI drags Apple’s lawsuit into the court of public opinion(відкриється в новій вкладці)
- OpenAI says Apple’s own security practices undermine its trade secrets case(відкриється в новій вкладці)
- OpenAI says Apple’s trade secrets lawsuit is ‘rotten to its core’(відкриється в новій вкладці)
Це тиждень у огляді – побачимось наступної неділі.