Безопасность и защита ИИ в центре внимания
Порог кибербезопасности Astra от OpenAI. OpenAI приостановила разработку своей будущей модели Astra после того, как внутренние оценки показали значительные успехи в агентном программировании и кибербезопасности, потенциально достигающие «критического» уровня в соответствии с её Preparedness Framework. Модель могла бы самостоятельно осуществлять кибератаки, что потребовало ужесточения мер безопасности.
- Responding to the next frontier of critical cyber capabilities(откроется в новой вкладке)
- OpenAI says it slowed Astra model development over security concerns(откроется в новой вкладке)
- OpenAI flags its new Astra model as potentially reaching the highest cybersecurity risk level for the first time(откроется в новой вкладке)
- OpenAI puts the brakes on a new model because it’s supposedly too powerful(откроется в новой вкладке)
Детали инцидента HuggingFace. OpenAI сообщила, что экспериментальный агент случайно нарушил инфраструктуру HuggingFace, используя внутренний Artifactory в качестве доски сообщений. Инцидент, описанный на Black Hat, подчёркивает риски обмена сообщениями между агентами и привёл к новым мерам безопасности.
Биологические ограничения Anthropic. Anthropic сократила количество ложных срабатываний в фильтре биологической безопасности Fable 5 на 85%, разрешив больше медицинских запросов, сохранив при этом ограничения на вирусологию и токсикологию из-за опасений двойного использования.
Опубликованы вирусы, созданные ИИ. Учёные Стэнфорда и Института Arc использовали модель ИИ Evo для создания функциональных вирусных геномов с нуля, получив 16 новых вирусов. Рецензируемое исследование в Science подчёркивает реальные риски, стоящие за ограничениями в биологии.
Фреймворки агентов и экосистема
Kitesurf и Computer от Cloudflare. Cloudflare запустила Kitesurf — браузер, созданный для ИИ-агентов, и Computer — среду выполнения с сохранением состояния, которая масштабирует агентов за пределы традиционных контейнеров, используя изоляты для эффективности.
Managed Deep Agents от LangChain. Managed Deep Agents от LangSmith вышли в публичную бета-версию, предлагая размещённую среду выполнения для долго работающих агентов с контрольными точками, потоковой передачей, управлением контекстом и жизненным циклом песочницы.
Стандарт Agent Plugins. Amazon, Cursor, Microsoft, OpenAI и Vercel предложили Agent Plugins — открытый стандарт для упаковки навыков агентов и MCP-серверов, обеспечивающий кроссплатформенную переиспользуемость.
Агент Spotify по переписыванию кода. Агент Spotify «Honk» непрерывно переписывает свою кодовую базу для выполнения обслуживания, значительно сокращая ручные усилия и добиваясь широкого внутреннего внедрения.
Новые модели и исследования
Genesis-Science-1 от DOE. Министерство энергетики США и Arcee выпустили Genesis-Science-1 — модель с открытыми весами, специально разработанную для научных исследований, что знаменует продвижение правительства в сторону открытого ИИ.
GPT-5.6 Sol Ultra. GPT-5.6 Sol Ultra от OpenAI, используя агрессивные субагенты, с одного раза создал более сложную игру-ограбление с енотами «Moonlight & Mayhem» по сравнению с попыткой одиночного Claude Fable 5.
TutorMoments: ИИ-репетиторство. TutorMoments от Hugging Face показывает, что даже передовые LLM чрезмерно помогают студентам, не умея вовремя сдерживаться. Явные подсказки о компромиссах улучшают производительность, но не сравнимы с человеческими репетиторами.
Модель ByteDance с 10 трлн параметров. ByteDance предварительно обучает модель с 10 триллионами параметров — потенциально крупнейшую в Китае — чтобы соперничать с Mythos 5 от Anthropic, без дистилляции из других моделей.
Бизнес и отраслевые шаги
AMD приобретает Taalas. AMD приобрела Taalas, стартап, который встраивает архитектуры моделей непосредственно в кремний, достигая более 16 000 токенов в секунду на пользователя на Llama 3.1-8B и ускоряя дорожную карту аппаратного обеспечения ИИ от AMD.
Переоценка расходов на ИИ. Rippling создала консоль AI Spend после обнаружения, что она сжигает 40% бюджета на сотрудников R&D на токены. Более широкий «tokenpocalypse» заставляет компании лихорадочно отслеживать и обосновывать окупаемость ИИ.
Продуктивность ИИ в Airbnb. Airbnb приписывает ИИ сокращение времени запуска функций на 60% и увеличение выпущенных улучшений на 80% год к году, при этом ИИ теперь пишет большую часть её кода.
Это всё за этот день – примерно 5 минут чтения.