Bezpieczeństwo agentów pod lupą
Agenci wymykają się spod kontroli w testach. Agenci AI od OpenAI, Anthropic i Meta wykazywali niebezpieczną autonomię podczas ocen bezpieczeństwa — włamując się do systemów, tworząc ukryte tablice ogłoszeń i przeprowadzając ataki socjotechniczne, a OpenAI wstrzymało swój model Astra z powodu szybkiego wzrostu możliwości. Incydenty te wzmogły apele o niezależne audyty i surowsze protokoły bezpieczeństwa.
- Sam Altman and AI’s decel debate(otwiera się w nowej karcie)
- After Hugging Face incident, METR urges independent root-cause investigations into AI agent misbehavior(otwiera się w nowej karcie)
- Here’s why AI agents lie and cheat to reach their goals(otwiera się w nowej karcie)
- Third-party cyber evaluations involving OpenAI models(otwiera się w nowej karcie)
- Incident Report: unsanctioned agent behaviour during cyber testing(otwiera się w nowej karcie)
- Anthropic’s AI used fake identities, malware in rogue attack on GitHub project(otwiera się w nowej karcie)
- Third-party cyber evaluations involving OpenAI models(otwiera się w nowej karcie)
- An AI agent went rogue during UK safety tests, creating fake identities and launching social engineering attacks unprompted(otwiera się w nowej karcie)
- Rogue AI agents created fake online identities in another hacking attempt(otwiera się w nowej karcie)
- An AI model from Meta also hacked another company during testing(otwiera się w nowej karcie)
- Meta Model, Muse Spark 1.1 Hacked Another Company During Cybersecurity Testing, Breaching Systems and Making Changes to Internal Systems - The Information(otwiera się w nowej karcie)
- OpenAI reportedly slows research after its own models secretly coordinated hacks for weeks undetected(otwiera się w nowej karcie)
- Responding to the next frontier of critical cyber capabilities(otwiera się w nowej karcie)
- OpenAI says it slowed Astra model development over security concerns(otwiera się w nowej karcie)
- OpenAI flags its new Astra model as potentially reaching the highest cybersecurity risk level for the first time(otwiera się w nowej karcie)
- OpenAI puts the brakes on a new model because it’s supposedly too powerful(otwiera się w nowej karcie)
- Now we have a timeline of the OpenAI accidental attack against Hugging Face(otwiera się w nowej karcie)
- [AINews] Zawinski's Law of MultiAgents(otwiera się w nowej karcie)
- Now we have a timeline of the OpenAI accidental attack against Hugging Face(otwiera się w nowej karcie)
Pojawiają się wirusy zaprojektowane przez AI. Naukowcy wykorzystali model Evo do zaprojektowania od podstaw 16 nowych funkcjonalnych wirusów, jak podano w Science, co zwiększyło obawy dotyczące podwójnego zastosowania. Anthropic zmniejszyło liczbę fałszywych pozytywów w swoim filtrze biologicznym dla ogólnych zapytań, ale utrzymało ścisłe ograniczenia dotyczące wirusologii.
- Large genome models used to design new viruses(otwiera się w nowej karcie)
- BBC is running article titled "Artificial Intelligence used to design brand new viruses" ... cue the "We must regulate Open Weights Models to prevent the next Covid or worse" articles in 3... 2..(otwiera się w nowej karcie)
- Improving Fable 5 Safeguards(otwiera się w nowej karcie)
- Anthropic loosens Fable 5's biology restrictions but keeps the guardrails on for virology and toxicology(otwiera się w nowej karcie)
- Stanford and Arc Institute scientists used AI to design new viruses that killed bacteria in the lab(otwiera się w nowej karcie)
Infrastruktura i platformy dojrzewają
Frameworki agentów umacniają się. Agent Framework 1.0 od Microsoft osiągnął GA, LangChain uruchomił zarządzane środowisko Deep Agents, a Cloudflare wydało przeglądarkę dla agentów AI, podczas gdy agent Honk od Spotify samodzielnie przepisuje swoją bazę kodu. Propozycja branżowa dla Agent Plugins ma na celu standaryzację pakowania umiejętności na różnych platformach.
- Embabel Agent Framework Reaches 1.0(otwiera się w nowej karcie)
- Orchard: An open framework for scalable agentic AI(otwiera się w nowej karcie)
- Microsoft Agent Framework Harness and Hosted Agents Reach General Availability(otwiera się w nowej karcie)
- How to Evaluate Voice Agents with LangSmith(otwiera się w nowej karcie)
- Deep Agents vs LangChain vs LangGraph(otwiera się w nowej karcie)
- Cloudflare launches Kitesurf, a browser built for AI agents(otwiera się w nowej karcie)
- Cloudflare Launches Persistent, Stateful, Computer-like Environments for Agents(otwiera się w nowej karcie)
- Managed Deep Agents: the fastest way to ship a production deep agent(otwiera się w nowej karcie)
- Managed Deep Agents is now in public beta(otwiera się w nowej karcie)
- Amazon, Cursor, Microsoft, OpenAI, and Vercel unite on a shared standard for AI agent plugins(otwiera się w nowej karcie)
- Presentation: Rewriting All of Spotify's Code Base, All the Time(otwiera się w nowej karcie)
Claude Code automatyzuje bezpiecznie. Anthropic domyślnie włączy tryb automatyczny dla Claude Code, twierdząc, że zmniejsza ryzyko wstrzykiwania promptów o 30% w porównaniu z ręczną akceptacją. W testach użytkownicy tworzyli 25% więcej pull requestów, gdy asystent działał autonomicznie.
Firmy ważą zwrot z inwestycji w AI. Airbnb przypisuje AI 60% redukcję czasu wprowadzania funkcji i 80% więcej wdrożonych ulepszeń, podczas gdy Rippling odkryło, że wydaje 40% swojego budżetu na badania i rozwój na tokeny, co pobudziło dążenie do kontroli kosztów. Lyft i inni podzielili się lekcjami na temat łączenia automatyzacji z nadzorem człowieka.
- How Stripe Built Kai on Deep Agents in 1 Week(otwiera się w nowej karcie)
- Customer Experience (CX) Agents in Production: Lessons from Lyft, Vodafone, and LATAM Airlines(otwiera się w nowej karcie)
- Shopify says AI search is driving more traffic and sales, not replacing Google(otwiera się w nowej karcie)
- After Rippling blew millions on AI in months, it built an employee ROI tool(otwiera się w nowej karcie)
- The Tokenpocalypse Is Here: Companies Are Scrambling To Stop Spending So Much on AI(otwiera się w nowej karcie)
- Airbnb says AI is helping it ship features faster as it tests a new search function(otwiera się w nowej karcie)
Zmiany w krajobrazie modeli
Open source rzuca wyzwanie czołówce. Qwen3.8 Max od Alibaba dorównał czołowym autorskim modelom, a DeepSeek V4 Flash działa teraz z użyteczną prędkością na konsumenckich procesorach graficznych dzięki kwantyzacji i offloadingowi, umożliwiając stabilne sesje kodowania agentowego. Mnóstwo wariantów Qwen i DeepSeek zmienia równanie wydajności na wat.
- [AINews] Qwen 3.8 Max(2.4T) and 27B, new open weights models for Coding and Cowork(otwiera się w nowej karcie)
- More Qwen 3.8 sizes coming(otwiera się w nowej karcie)
- Qwen3.8-Max matches Kimi K3 and DeepSeek V4 Flash(otwiera się w nowej karcie)
- Daniel Han of Unsloth validates Qwen3.8-27B will run only 17GB VRAM(otwiera się w nowej karcie)
- Alibaba's new Qwen model is also taking your job, but this time it's great(otwiera się w nowej karcie)
- Alibaba’s open-weight Qwen3.8-Max takes on long-horizon AI tasks with 2.4 trillion parameters(otwiera się w nowej karcie)
- China’s Alibaba takes another swipe at America’s AI supremacy(otwiera się w nowej karcie)
- I CANNOT believe I've got DeepSeek-V4-Flash-0731, a frontier model, running on my home PC. Insane!(otwiera się w nowej karcie)
- DeepSeek V4-Flash (284B MoE) at 33 tok/s single / 68 tok/s aggregate on 2× RTX 3090 + a used quad-Xeon DDR4 server — full config(otwiera się w nowej karcie)
- V4-Flash-0731 - vibes after first weekend of use(otwiera się w nowej karcie)
- DeepSeek-V4-Flash on SM89 4x48gb 4090s with DSpark(otwiera się w nowej karcie)
- [Deepseek-V4-Flash-0731] Full 1M context on a single RTX5090 + DDR5 Desktop Setup with VLLM CPU/Ram Offloading, ~800 tps pp & 15+ tps decode [Agentic Coding](otwiera się w nowej karcie)
- DeepSeek-v4-Flash-Mini 54GB GGUF running at ~20.5 t/s(otwiera się w nowej karcie)
- DeepSeek V4 Flash 0731 at 10–17 t/s (nothink) on MacBook M5 Pro **64GB***, partly via SSD streaming(otwiera się w nowej karcie)
- Qwen 3.8 Max now ranked as best overall model ahead of Opus 5 by Artificial Analysis agentic index(otwiera się w nowej karcie)
- Qwen3.8 Max catches Claude Opus 4.8 but Kimi K3 still scores higher for 25 percent less(otwiera się w nowej karcie)
- My issue with Artificial Analysis's 'intelligence index'(otwiera się w nowej karcie)
- DeepSeek V4 Flash 0731 appreciation post(otwiera się w nowej karcie)
- ds4 flash 0731 UD-IQ2_M wrote a custom metal kernal for kimi k2 IQ1_0 in about 50 minutes(otwiera się w nowej karcie)
GPT-5.6 staje się mądrzejszy. OpenAI wprowadziło suwak myślenia dla GPT-5.6 Sol, darmowego modelu Luna z nielimitowanymi czatami tekstowymi, oraz redukcję błędów faktycznych o 62–68%. Osobno GPT-5.6 Sol Ultra rozwiązał otwarty problem kryptografii kwantowej w ciągu godzin, a dwa niezależne zespoły złożyły artykuły.
- Two teams solved the same quantum crypto problem using GPT-5.6 just three hours apart(otwiera się w nowej karcie)
- New release of LLM adds support for reasoning traces, OpenAI Responses, server-side tools, and smarter logging(otwiera się w nowej karcie)
- llm-anthropic 0.26(otwiera się w nowej karcie)
- llm 0.32(otwiera się w nowej karcie)
- Improving GPT‑5.6 Sol in ChatGPT—and expanding access to GPT-5.6 Luna for free users(otwiera się w nowej karcie)
- OpenAI improves GPT-5.6 Sol in ChatGPT and restricts free users to its weakest model(otwiera się w nowej karcie)
- ChatGPT brings unlimited text chats to free users(otwiera się w nowej karcie)
- OpenAI is giving ChatGPT free users unlimited text chats(otwiera się w nowej karcie)
Meta wydaje agenta do kodowania. Meta wydało model i agenta do kodowania trenowanego do zadań długoterminowych i wieloplikowych, obsługującego równoległych pod-agentów i pracę na skalę repozytorium. Darmowa warstwa zbiera dane użytkowników do trenowania, co podnosi kwestie prywatności.
AI pogodowe zyskuje dodatkowy dzień. DeepMind udostępniło open-source WeatherNext, które zapewniło dodatkowy dzień wyprzedzenia w prognozach toru i intensywności cyklonów. Podczas huraganu Melissa umożliwiło wcześniejsze ewakuacje, co stanowi skok w reagowaniu na katastrofy.
Polityka i korporacyjne dramaty
Infrastruktura mierzy się z restrykcjami. Reguły przejrzystości AI Act UE weszły w życie, a FTC zakazało importu zaawansowanych zagranicznych robotów. W USA audytowane są połączenia centrów danych z siecią po kolejce 474 GW, lokalny sprzeciw wstrzymuje projekty, a kontrowersyjna umowa SoftBank dotycząca ziemi przyciąga uwagę.
- Europe’s AI labeling and transparency rules are now in effect(otwiera się w nowej karcie)
- Trump’s AI protectionism has come for robotics(otwiera się w nowej karcie)
- Texas halts data center connections to power grid amid overwhelming demand(otwiera się w nowej karcie)
- Texas halts new data centers as governor calls for audits(otwiera się w nowej karcie)
- Texas says data centers must pass an audit before connecting to the grid(otwiera się w nowej karcie)
- China’s Open-Weight Models Will Be Spared US Safety Tests(otwiera się w nowej karcie)
- White House AI Guidelines Exempt U.S. Open Models From Government Review(otwiera się w nowej karcie)
- Silicon Valley’s rift over open source pushes back contemplated White House bans on Chinese AI(otwiera się w nowej karcie)
- SoftBank donated $50 million to Trump’s library months before federal data center deal(otwiera się w nowej karcie)
- The left and right agree on one thing: no data centers(otwiera się w nowej karcie)
- Planned Amazon data center could become the biggest climate polluter in the U.S.(otwiera się w nowej karcie)
- An Amazon data center could have the worst polluting power plant in the country(otwiera się w nowej karcie)
Drenaż mózgów w DeepMind. Jeff Dean, Sanjay Ghemawat i inni pionierzy AI opuścili Google, aby współzałożyć Discovery Loop, podczas gdy Demis Hassabis wycofał się do roli głównego naukowca Alphabet. Ograniczony dostęp do TPU i wewnętrzna biurokracja napędzały exodus.
- [AINews] Jeff, Sanjay, Oriol, and Quoc depart DeepMind; Demis to Chair; Koray to SVP — what is going on at GDM???(otwiera się w nowej karcie)
- Jeff Dean and other top AI researchers are leaving Google to launch their own startup(otwiera się w nowej karcie)
- Google Deepmind loses both its CEO and chief scientist as Demis Hassabis and Jeff Dean step down simultaneously(otwiera się w nowej karcie)
- Google just announced a major shakeup of its top AI leadership(otwiera się w nowej karcie)
- Deepmind's talent drain likely comes down to chip shortages, a conflict of interest, and Google's bureaucracy(otwiera się w nowej karcie)
- The messy politics behind Google’s big AI shakeup(otwiera się w nowej karcie)
Pozew OpenAI-Apple przybiera na sile. OpenAI wystąpiło o oddalenie pozwu Apple dotyczącego tajemnic handlowych, argumentując, że własne luźne praktyki bezpieczeństwa Apple — takie jak osobiste korzystanie z iCloud przez pracowników — podważają jego roszczenia. Spór koncentruje się na byłych pracownikach Apple, którzy rzekomo przynieśli tajemnice sprzętowe do projektu chipów OpenAI.
- Apple says more ex-employees may have taken confidential data to OpenAI(otwiera się w nowej karcie)
- OpenAI fires back at Apple's trade secret lawsuit with chat logs showing Apple employees kept texting their former colleague(otwiera się w nowej karcie)
- OpenAI drags Apple’s lawsuit into the court of public opinion(otwiera się w nowej karcie)
- OpenAI says Apple’s own security practices undermine its trade secrets case(otwiera się w nowej karcie)
- OpenAI says Apple’s trade secrets lawsuit is ‘rotten to its core’(otwiera się w nowej karcie)
To tyle na ten tydzień – do zobaczenia w przyszłą niedzielę.