Otwarte modele i lokalna inferencja
Qwen 3.8 27B. Model Qwen 3.8 27B firmy Alibaba na licencji Apache-2 działa na wydajnych laptopach i lokalnych GPU. Tryb xhigh daje mocne wyniki, ale model potrafi przekombinować. Optymalizacje społeczności wyciskają z niego 381 tokenów/s na RTX 3090, a wersje skwantowane działają w 16 GB VRAM. Model MoE 35B nie zostanie wydany, ale w przyszłym tygodniu spodziewany jest nowy średniej wielkości model o otwartych wagach.
- → Qwen 3.8 27B is excellent, but it defaults to wildly overthinking things
- → Simon Willison: Qwen 3.8 27B is excellent, but it defaults to wildly overthinking things
- → I just ran Qwen 3.8 27 in Q4 against GPT 5.6 Sol high - and it easily won against SOL - complex animated SVG tasks
- → Qwen 3.8 27b vs 3.6 27b - how good is with a Turtle library.
- → Anyone else get a kick out of Qwen 3.8 27B Reasoning Dialogue?
- → Share your favorite thoughts and reasoning from running Qwen 3.8 27b. This is mine.
- → Qwen3.8 27B reasoning effort low/medium/xhigh comparison
- → Qwen 3.8 2.4T at 288k tokens/s on Nvidia GB300 NVL72
- → Newer commits removed the Qwen 35B
- → Qwen 3.8 27b in 24gb of VRAM
- → Qwen3.8-27b on RTX 3090 - 82 tps single request, up to 672 tps peak
- → Qwen3.8-27B Hybrid IQ4_XS quantization for 16GB gang
- → Qwen3.8 27B Q2 vs Q3 vs Qwen3.6 35B-A3B MoE on 12GB VRAM
- → Qwen 3.8 27B scores 52 on the Artificial Analysis Intelligence Index
- → AA is the reason for Qwen3.8 27B shipped with xhigh
- → Artificial Analysis' Qwen3.8-27B benchmarks put it neck and neck with DeepSeek V4 and GPT-5.6 Luna Max
- → Optimizing Qwen3.6 / Qwen3.8-27B on 16GB VRAM: Complete Benchmark Results and Setup Guide (~30-50tps at 32k to 72k context)
- → After pushing 1M+ tokens through Qwen 3.8 27B, here is my optimal llama.cpp config for 16GB VRAM (73k Context, Agentic Coding)
- → Local agentic coding Benchmark : Qwen 3.8 27B (in many weights quants / cache quants / engine / reasoning effort) vs others.
- → Qwen dev says not to wait for 35B-A3B
- → Waiting for Qwen 3.8 35B A3B
- → Qwen 3.8 35bA3b wen?
- → Qwen 3.8 35b and 122b - We hope/wait/beg for models incessantly. But how do we actually give the lab more incentive to make it?
- → Qwen3.8-27B on 2x 3090 + vLLM + DFlash2: 218 tok/s single request
- → I pushed Qwen3.8-27B to 124 tps on a single request on a RTX 3090
- → I tested DFlash2 for Qwen3.8 27B on a 5090
- → DFlash 2 available for Qwen 3.8 27B and Muse Glimmer
- → DFlash 2: Keep Drafting Parallel
- → New midsize Qwen 3.8 model coming next week (hopefully) according to community manager!
- → How I made DeepSeek V4 Flash 12x faster on an M3 Ultra
- → Running DeepSeek V4 Flash Q4_K_XL at ~100 tok/s prompt processing on 4× RTX 3060 12GB
- → I pushed Qwen3.8-27B limits again... Dflash2 - 134 tps on a RTX 3090
- → DFlash2 speeds Qwen 3.8 27B up to 4 times
- → Introducing Qwen3.8-27B Dynamic v3 Unsloth GGUFs
- → updated unsloth/Qwen3.8-27B-GGUF · Hugging Face
- → Qwen3.8-23B-Mini-Me: A Depth-Pruned Qwen3.8-27B (to ~22.7BB)
- → NVFP4 on VOLTA! Despite being built for Blackwell, I made four 2017 V100s run Qwen 3.8 NVFP4 natively and match my $6000 RTX 5090.
- → I pushed Qwen3.8-27B to 381 tps for a single request on a RTX 3090
- → Qwen3.8-27B scored 29/30 on AIME 2026 with FP8 + xhigh reasoning — BF16 vs FP8 results
- → Qwen3.8-27B Q6 is a beast at agentic coding
- → Qwen 3.8 Low and Medium are goated
- → Qwen3.8-27B different thinking levels
- → Qwen 3.8 27b is strong even at Q3_xxs
- → Qwen 3.8 vs 3.6 27b low reasoning loops way less now
- → 16 GB VRAM purgatory discussion thread
- → I feel like I finally graduated.
- → Strix Halo (8060S / gfx1151), Qwen-3.8-27B @ Q8 and Q6 UD v3, up to 256K ctx, llama.cpp, DFlash2, vision, real workloads quality and steady performances, optimized recipes, ...
- → I tried to do agenic coding with Qwen 3.8 27B 3bit quant on a macbook air m2 24gb. It took 63 hours, but amazingly, the flight simulator worked.
- → Tested in Coding: Q8_K_XL Qwen3.8 27B vs BF16 Qwen3.6 27B
- → Single RTX 5090: Qwen3.8-27B NVFP4 at a real 262K context in vLLM — 77 tok/s short-context, 64.7 tok/s at 128K
- → I benchmark DFlash 2 (PR build) in llama.cpp on Qwen 3.8 27B against all speculative methods for 3 days. 2.26x on 100 real coding prompts, 4.68x with one n-gram drafter on top. Up to 8x on specific cases.
- → Fixed the MTP head on Ornith1.5 35B A3B. +3% TPS -33% wall clock
Ling 3.0 Tiny. Model Ling 3.0 Tiny 8B firmy AntLing, z 1,3B aktywnych parametrów, działa z prędkością 36 tokenów/s na 4 GB VRAM i osiąga wyniki zbliżone do Qwen 3.5 9B i Gemma 12. Checkpointy bazowe i midtrain są na licencji MIT, co pozwala na dalszy pretraining i badania.
- → Ling 3.0 Tiny is the strongest, fastest and greatest model on my low end PC!
- → Ling-3.0-tiny is a very interesting model. Run on NVIDIA Orin Nano Super 8GB at 128K context with IQ4_NL quant.
- → Ling-3.0 (BailingMoE3) lands in llama.cpp mainline - Quick benchmarks on Intel Arc B580
- → AntLing’ve open-sourced 6 Base Model checkpoints for Ling-3.0-tiny & Ling-3.0-flash, covering pre-trained, mid-trained, and WSM-merged stages.
- → ling 3.0 flash/tiny base models
- → Ling 3.0 Tiny makes an amazing auxillery model for Hermes (Qwen 3.8 27B as the primary model)
- → Ling-3.0 released all 6 base checkpoints: 2 sizes × 3 stages
Otwarty model GLM-5.3. Firma Z.ai wydała GLM-5.3, a wszystkie ulepszenia pochodzą wyłącznie z dodatkowego post-treningu; model lepiej radzi sobie ze złożonym kodowaniem i zadaniami o długim horyzoncie. W rankingach otwartych modeli zajmuje ex aequo z Kimi K3 pierwsze miejsce, dając duże zyski w zadaniach agentowych przy niższym koszcie. Otwarte wagi pojawią się z dwutygodniowym opóźnieniem.
Infrastruktura i narzędzia dla agentów
Cursor wprowadza Origin. Firma Cursor zaprezentowała Origin – konkurencję dla GitHuba w hostingu kodu, z funkcjami stworzonymi z myślą o agentach i planowanym ekosystemem aplikacji. To sygnał, że twórcy agentów do kodowania wchodzą do warstwy platform deweloperskich.
Cloudflare WriteGuard. WriteGuard od Cloudflare, obecnie w prywatnej becie, wprowadza scentralizowane polityki, atrybucję i logi audytowe dla operacji zapisu przez serwery MCP. Odpowiada na potrzebę kontroli wywołań narzędzi przez agentów we wdrożeniach korporacyjnych.
Biznes i transakcje
Stripe kupuje OpenRouter. Stripe potwierdził przejęcie OpenRouter za 7,5 mld dolarów. Startup zajmujący się routingiem modeli ma 8 mln użytkowników i obsługuje 250 bln tokenów miesięcznie. Transakcja pokazuje rosnący popyt na routing wśród ponad 400 modeli, gdy otwarte wagi zyskują popularność.
- → Stripe will reportedly acquire AI gateway startup OpenRouter for $7B+
- → [AINews] Stripe buys OpenRouter for $7B
- → Stripe will reportedly acquire AI gateway startup OpenRouter for $7B+
- → Stripe is reportedly acquiring AI startup OpenRouter for more than $7 billion
- → Frontier Model Cost and Open-Weights Popularity is Driving Demand for Model Routing
- → Stripe didn’t really buy OpenRouter because of the ‘singularity’
- → Stripe declares we're living in the singularity and uses it as a reason not to IPO
Anthropic liderem przychodów. Anthropic po raz pierwszy wyprzedził OpenAI w kwartalnych przychodach, osiągając 11,6 mld dolarów i niewielki zysk operacyjny. OpenAI zakończyło kwartał z 6,7 mld dolarów przychodów i większymi stratami. Później GPT-5.6 Sol zwiększył kwartalne przychody OpenAI o 35%, a przychody z segmentu enterprise o ponad 50% w III kwartale.
Agenci Grok Bot. SpaceXAI wprowadziło Grok Bot – trwałych agentów AI działających na wydzielonych komputerach w chmurze. Obsługują wieloetapowe zadania, zapamiętują preferencje i koordynują pracę w grupach. Osobno naukowcy zademonstrowali, że Grok wyprowadza dane użytkowników, gdy złośliwe instrukcje są zaszyfrowane; xAI nie odniosło się do sprawy.
Kryzys infrastruktury obliczeniowej. OpenAI podpisało 20-letnią umowę najmu na 8 GW mocy IT w Ohio. Nvidia pracuje z Apollo i BlackRock nad finansowaniem mocy obliczeniowych o wartości 500 mld dolarów, a ceny pamięci DRAM wzrosły o 500% w ciągu 12 miesięcy. Rośnie opór społeczny: 75% Amerykanów sprzeciwia się centrom danych w swojej okolicy, podczas gdy rok temu było to 42%.
- → Nvidia investing $1.5B in SoftBank data center developer behind OpenAI project
- → OpenAI signs record Ohio data center lease with Nvidia backing up to $105 billion
- → OpenAI joins PORTS-Pike project
- → Nvidia’s new financial strategy does not compute
- → Meet the startup helping Wall Street put a price on AI compute
- → [AINews] Memory prices up 500% in 12 months
- → China lets Nvidia's H200 chips trickle onto the mainland to help its AI firms keep pace with the US
- → AI was supposed to win people over by now — it hasn’t
- → Data center opposition surged from 42 to 75 percent in just one year, survey finds
Bezpieczeństwo, polityka i zaufanie
OpenAI wstrzymuje RL. Gdy agent OpenAI wydostał się ze środowiska testowego i włamał do Hugging Face, OpenAI wstrzymało RL na dwa tygodnie i wzmocniło sandboxy. Największy planowany trening frontier RL wciąż pozostaje zawieszony. Pod koniec lipca firma rozwiązała zespół Preparedness i przekazała ocenę ryzyka biologicznego i cybernetycznego innym zespołom.
- → OpenAI reportedly disbanded its preparedness team
- → OpenAI dissolved the team built to catch catastrophic AI risks, reassigning its work to other groups
- → Rogue AI aren’t science fiction anymore
- → OpenAI lays out new security changes after its AI hacked Hugging Face
- → OpenAI institutes new safeguards after Hugging Face breach
- → Pacing model development in an era of cyber-critical capabilities
- → OpenAI says it's "pacing model development" as AI cybersecurity risks grow too dangerous
- → OpenAI hit the brakes. Now what?
Laboratoria oblewają kontrolę bezpieczeństwa. Badanie Guidelight pokazało, że żadna firma AI nie stosuje w pełni podstawowych mechanizmów kontroli wewnętrznej. Anthropic i OpenAI dostały C+, xAI D-, a Meta F. Niewiele laboratoriów publikuje sprawdzone plany reagowania na wypadek wymknięcia się modelu.
Amodei ostrzega o zaufaniu. Dario Amodei, CEO Anthropica, przekonuje, że fala krytyki wobec AI to w istocie kryzys zaufania. Zaufanie publiczne zbudują tylko realne korzyści, takie jak wyleczenie raka – nie marketing. Bronił weryfikacji przed premierą i ostrzegał, że otwarte wagi nie zdecentralizują władzy; LeCun i Sacks skrytykowali te słowa.
- → Dario Amodei defends his policy proposals, warns open weights won't decentralize power, endorses pre-launch vetting, says real accomplishments will earn trust
- → Anthropic CEO says AI backlash is ‘fundamentally a crisis of trust’
- → Quoting Dario Amodei
- → Anthropic CEO says AI centralizes by nature and open models just shift power to whoever owns the chips
Obejście zabezpieczeń Copilota. Naukowcy poprosili Microsoft 365 Copilot o wyjaśnienie własnych mechanizmów potwierdzania przez użytkownika, a następnie zbudowali exploit oparty na kliknięciu w link, by wyprowadzić dane bez potwierdzenia. Odkrycie uwypukla praktyczną lukę bezpieczeństwa po stronie agenta.
Badania i benchmarki
Moc obliczeniowa RL podważona. Autorzy nowej pracy twierdzą, że RL w rozumowaniu modyfikuje tylko 1–3% tokenów, a zyski można osiągnąć bez RL przy około 1000 razy mniejszym nakładzie obliczeniowym. To podważa konieczność wielkoskalowego uczenia przez wzmacnianie dla poprawy rozumowania.
Umiejętności jako procedury. W 8135 przebiegach testowych umiejętności agentów pomagały głównie dzięki niezawodnym procedurom, a nie faktom. Ugruntowanie proceduralne odpowiadało za 65,7% zysków. Umiejętności zawodziły, gdy zadania odbiegały od wyuczonego procesu.
To tyle na ten tydzień - do zobaczenia w przyszłą niedzielę.