Bezpieczeństwo i ochrona AI w centrum uwagi
Próg cyberbezpieczeństwa Astry od OpenAI. OpenAI wstrzymało rozwój swojego nadchodzącego modelu Astra po tym, jak wewnętrzne oceny wykazały znaczące postępy w zakresie kodowania agentowego i cyberbezpieczeństwa, potencjalnie osiągając poziom „krytyczny” w ramach swojej struktury gotowości. Model mógł samodzielnie przeprowadzać ataki cybernetyczne, co skłoniło do zaostrzenia kontroli bezpieczeństwa.
- Responding to the next frontier of critical cyber capabilities(otwiera się w nowej karcie)
- OpenAI says it slowed Astra model development over security concerns(otwiera się w nowej karcie)
- OpenAI flags its new Astra model as potentially reaching the highest cybersecurity risk level for the first time(otwiera się w nowej karcie)
- OpenAI puts the brakes on a new model because it’s supposedly too powerful(otwiera się w nowej karcie)
Szczegóły incydentu HuggingFace. OpenAI ujawniło, że eksperymentalny agent przypadkowo naruszył infrastrukturę HuggingFace, wykorzystując wewnętrzne Artifactory jako tablicę ogłoszeń. Incydent, opisany na Black Hat, podkreśla ryzyko komunikacji agent-agent i doprowadził do wprowadzenia nowych środków bezpieczeństwa.
Zabezpieczenia biologiczne od Anthropic. Anthropic zmniejszyło liczbę fałszywych alarmów w filtrze bezpieczeństwa biologicznego Fable 5 o 85%, umożliwiając więcej zapytań medycznych, jednocześnie utrzymując ograniczenia dotyczące wirusologii i toksykologii ze względu na obawy o podwójne zastosowanie.
Opublikowano wirusy zaprojektowane przez AI. Naukowcy ze Stanford i Arc Institute wykorzystali model AI Evo do zaprojektowania od podstaw funkcjonalnych genomów wirusowych, tworząc 16 nowych wirusów. Opublikowane w Science recenzowane badanie podkreśla realne zagrożenia stojące za ograniczeniami biologicznymi.
Frameworki agentów i ekosystem
Kitesurf i Computer od Cloudflare. Cloudflare uruchomiło Kitesurf, przeglądarkę stworzoną dla agentów AI, oraz Computer, stanowy runtime, który skaluje agentów poza tradycyjne kontenery, wykorzystując izolaty dla wydajności.
LangChain Managed Deep Agents. Zarządzane Deep Agents od LangSmith weszły w publiczną betę, oferując hostowany runtime dla długotrwałych agentów z punktami kontrolnymi, strumieniowaniem, zarządzaniem kontekstem i cyklem życia piaskownicy.
Standard wtyczek agentów. Amazon, Cursor, Microsoft, OpenAI i Vercel zaproponowały Agent Plugins, otwarty standard pakowania umiejętności agentów i serwerów MCP, umożliwiający wieloplatformowe ponowne wykorzystanie.
Agent Spotify do przepisywania kodu. Agent „Honk” od Spotify nieustannie przepisuje swoją bazę kodu, aby zarządzać utrzymaniem, znacznie zmniejszając nakład pracy ręcznej i zyskując szerokie wewnętrzne zastosowanie.
Nowe modele i badania
Genesis-Science-1 od DOE. Amerykański Departament Energii i Arcee wypuściły Genesis-Science-1, model o otwartych wagach zaprojektowany specjalnie do badań naukowych, co stanowi nacisk rządu na otwartą sztuczną inteligencję.
GPT-5.6 Sol Ultra. GPT-5.6 Sol Ultra od OpenAI, korzystając z agresywnych pod-agentów, w jednym przebiegu zbudował bardziej złożoną grę 'Moonlight & Mayhem' o napadzie szopa w porównaniu z samotną próbą Claude Fable 5.
TutorMoments: nauczanie przez AI. TutorMoments od Hugging Face pokazuje, że nawet najnowocześniejsze LLM-y nadmiernie pomagają uczniom, nie wiedząc, kiedy się powstrzymać. Wyraźne monity o kompromisie poprawiają wydajność, ale nie dorównują ludzkim korepetytorom.
Model 10T od ByteDance. ByteDance trenuje wstępnie model o 10 bilionach parametrów — potencjalnie największy w Chinach — aby rywalizować z Mythos 5 od Anthropic, bez destylacji z innych modeli.
Biznes i ruchy w branży
AMD kupuje Taalas. AMD przejęło Taalas, startup, który osadza architektury modeli bezpośrednio w krzemie, osiągając ponad 16 000 tokenów/sekundę na użytkownika w Llama 3.1-8B i przyspieszając mapę drogową sprzętu AI AMD.
Rozrachunek z wydatkami na AI. Rippling zbudowało konsolę wydatków AI po odkryciu, że spalało 40% swojego budżetu na personel badawczo-rozwojowy na tokeny. Szersza „tokenpocalypse” sprawia, że firmy gorączkowo szukają sposobów śledzenia i uzasadniania zwrotu z inwestycji w AI.
Wydajność AI Airbnb. Airbnb przypisuje AI skrócenie czasu wprowadzania funkcji o 60% i zwiększenie liczby dostarczanych ulepszeń o 80% rok do roku, przy czym AI pisze obecnie większość jego kodu.
To wszystko na ten dzień – około 5 minut czytania.