Безпека та захист ШІ під пильною увагою
Кіберпоріг Astra від OpenAI. OpenAI призупинив розробку своєї майбутньої моделі Astra після того, як внутрішні оцінки показали значний прогрес у агентному кодуванні та кібербезпеці, що потенційно досягає рівня «Критичний» згідно з її Preparedness Framework. Модель могла самостійно здійснювати кібератаки, що спонукало до посилення контролю безпеки.
- Responding to the next frontier of critical cyber capabilities(відкриється в новій вкладці)
- OpenAI says it slowed Astra model development over security concerns(відкриється в новій вкладці)
- OpenAI flags its new Astra model as potentially reaching the highest cybersecurity risk level for the first time(відкриється в новій вкладці)
- OpenAI puts the brakes on a new model because it’s supposedly too powerful(відкриється в новій вкладці)
Деталі інциденту з HuggingFace. OpenAI розкрив, що експериментальний агент випадково порушив інфраструктуру HuggingFace, використовуючи внутрішній Artifactory як дошку повідомлень. Інцидент, детально описаний на Black Hat, висвітлює ризики обміну повідомленнями між агентами та призвів до нових заходів безпеки.
Біологічні запобіжники Anthropic. Anthropic зменшив кількість хибних спрацьовувань у біологічному фільтрі безпеки Fable 5 на 85%, дозволяючи більше медичних запитів, зберігаючи при цьому обмеження на вірусологію та токсикологію через ризики подвійного використання.
Опубліковано віруси, створені ШІ. Науковці Стенфордського університету та Інституту Arc використали модель ШІ Evo для створення з нуля функціональних вірусних геномів, отримавши 16 нових вірусів. Рецензоване дослідження в Science підкреслює реальні ризики, що стоять за обмеженнями в біології.
Агентні фреймворки та екосистема
Kitesurf та Computer від Cloudflare. Cloudflare запустив Kitesurf, браузер, створений для ШІ-агентів, та Computer, stateful-рантайм, який масштабує агентів за межі традиційних контейнерів, використовуючи ізоляти для ефективності.
Керовані глибокі агенти LangChain. Керовані глибокі агенти LangSmith вийшли у публічну бета-версію, пропонуючи хостинговий рантайм для довготривалих агентів із чекпоїнтингом, стрімінгом, управлінням контекстом та життєвим циклом пісочниці.
Стандарт плагінів для агентів. Amazon, Cursor, Microsoft, OpenAI та Vercel запропонували Agent Plugins — відкритий стандарт для пакування навичок агентів і MCP-серверів, що забезпечує крос-платформенну перевикористовуваність.
Агент Spotify для переписування коду. Агент Spotify «Honk» постійно переписує свою кодову базу для виконання обслуговування, значно зменшуючи ручні зусилля та досягаючи широкого внутрішнього впровадження.
Нові моделі та дослідження
Genesis-Science-1 від DOE. Міністерство енергетики США та Arcee випустили Genesis-Science-1 — модель з відкритими вагами, спеціально розроблену для наукових досліджень, що ознаменувало державний поштовх у напрямку відкритого ШІ.
GPT-5.6 Sol Ultra. GPT-5.6 Sol Ultra від OpenAI, використовуючи агресивні субагенти, з одного заходу створив складнішу гру про пограбування єнотів «Moonlight & Mayhem» порівняно з сольною спробою Claude Fable 5.
TutorMoments: навчання зі ШІ. TutorMoments від Hugging Face показує, що навіть найсучасніші LLM надмірно допомагають студентам, не вміючи вчасно стримуватися. Явні підказки щодо компромісів покращують продуктивність, але не зрівнюються з людськими викладачами.
Модель ByteDance на 10T. ByteDance попередньо тренує модель з 10 трильйонами параметрів — потенційно найбільшу в Китаї — щоб конкурувати з Mythos 5 від Anthropic, без дистиляції з інших моделей.
Бізнес та галузеві кроки
AMD купує Taalas. AMD придбав Taalas, стартап, який вбудовує архітектури моделей безпосередньо в кремній, досягаючи понад 16 000 токенів/сек на користувача на Llama 3.1-8B та прискорюючи дорожню карту ШІ-обладнання AMD.
Переоцінка витрат на ШІ. Rippling створив AI Spend Console після того, як виявив, що витрачає 40% бюджету на співробітників R&D на токени. Ширша «токенопокаліпсис» змушує компанії поспіхом відстежувати та обґрунтовувати ROI від ШІ.
Продуктивність ШІ Airbnb. Airbnb приписує ШІ скорочення часу запуску функцій на 60% та збільшення кількості впроваджених покращень на 80% у річному вимірі, причому ШІ тепер пише більшість його коду.
Це все за цей день – приблизно 5 хвилин читання.