Відкриті моделі та локальний інференс
Qwen 3.8 27B. Qwen 3.8 27B від Alibaba з ліцензією Apache-2 працює на потужних ноутбуках і локальних GPU, а режим xhigh reasoning дає сильні результати, але з надмірним передумуванням. Оптимізації спільноти дозволяють досягти 381 токен/с на RTX 3090, а квантовані версії працюють на 16 ГБ відеопам'яті. Версію 35B MoE не випустять, але наступного тижня очікується нова модель середнього розміру з відкритими вагами.
- Qwen 3.8 27B is excellent, but it defaults to wildly overthinking things(відкриється в новій вкладці)
- Simon Willison: Qwen 3.8 27B is excellent, but it defaults to wildly overthinking things(відкриється в новій вкладці)
- I just ran Qwen 3.8 27 in Q4 against GPT 5.6 Sol high - and it easily won against SOL - complex animated SVG tasks(відкриється в новій вкладці)
- Qwen 3.8 27b vs 3.6 27b - how good is with a Turtle library.(відкриється в новій вкладці)
- Anyone else get a kick out of Qwen 3.8 27B Reasoning Dialogue?(відкриється в новій вкладці)
- Share your favorite thoughts and reasoning from running Qwen 3.8 27b. This is mine.(відкриється в новій вкладці)
- Qwen3.8 27B reasoning effort low/medium/xhigh comparison(відкриється в новій вкладці)
- Qwen 3.8 2.4T at 288k tokens/s on Nvidia GB300 NVL72(відкриється в новій вкладці)
- Newer commits removed the Qwen 35B(відкриється в новій вкладці)
- Qwen 3.8 27b in 24gb of VRAM(відкриється в новій вкладці)
- Qwen3.8-27b on RTX 3090 - 82 tps single request, up to 672 tps peak(відкриється в новій вкладці)
- Qwen3.8-27B Hybrid IQ4_XS quantization for 16GB gang(відкриється в новій вкладці)
- Qwen3.8 27B Q2 vs Q3 vs Qwen3.6 35B-A3B MoE on 12GB VRAM(відкриється в новій вкладці)
- Qwen 3.8 27B scores 52 on the Artificial Analysis Intelligence Index(відкриється в новій вкладці)
- AA is the reason for Qwen3.8 27B shipped with xhigh(відкриється в новій вкладці)
- Artificial Analysis' Qwen3.8-27B benchmarks put it neck and neck with DeepSeek V4 and GPT-5.6 Luna Max(відкриється в новій вкладці)
- Optimizing Qwen3.6 / Qwen3.8-27B on 16GB VRAM: Complete Benchmark Results and Setup Guide (~30-50tps at 32k to 72k context)(відкриється в новій вкладці)
- After pushing 1M+ tokens through Qwen 3.8 27B, here is my optimal llama.cpp config for 16GB VRAM (73k Context, Agentic Coding)(відкриється в новій вкладці)
- Local agentic coding Benchmark : Qwen 3.8 27B (in many weights quants / cache quants / engine / reasoning effort) vs others.(відкриється в новій вкладці)
- Qwen dev says not to wait for 35B-A3B(відкриється в новій вкладці)
- Waiting for Qwen 3.8 35B A3B(відкриється в новій вкладці)
- Qwen 3.8 35bA3b wen?(відкриється в новій вкладці)
- Qwen 3.8 35b and 122b - We hope/wait/beg for models incessantly. But how do we actually give the lab more incentive to make it?(відкриється в новій вкладці)
- Qwen3.8-27B on 2x 3090 + vLLM + DFlash2: 218 tok/s single request(відкриється в новій вкладці)
- I pushed Qwen3.8-27B to 124 tps on a single request on a RTX 3090(відкриється в новій вкладці)
- I tested DFlash2 for Qwen3.8 27B on a 5090(відкриється в новій вкладці)
- DFlash 2 available for Qwen 3.8 27B and Muse Glimmer(відкриється в новій вкладці)
- DFlash 2: Keep Drafting Parallel(відкриється в новій вкладці)
- New midsize Qwen 3.8 model coming next week (hopefully) according to community manager!(відкриється в новій вкладці)
- How I made DeepSeek V4 Flash 12x faster on an M3 Ultra(відкриється в новій вкладці)
- Running DeepSeek V4 Flash Q4_K_XL at ~100 tok/s prompt processing on 4× RTX 3060 12GB(відкриється в новій вкладці)
- I pushed Qwen3.8-27B limits again... Dflash2 - 134 tps on a RTX 3090(відкриється в новій вкладці)
- DFlash2 speeds Qwen 3.8 27B up to 4 times(відкриється в новій вкладці)
- Introducing Qwen3.8-27B Dynamic v3 Unsloth GGUFs(відкриється в новій вкладці)
- updated unsloth/Qwen3.8-27B-GGUF · Hugging Face(відкриється в новій вкладці)
- Qwen3.8-23B-Mini-Me: A Depth-Pruned Qwen3.8-27B (to ~22.7BB)(відкриється в новій вкладці)
- NVFP4 on VOLTA! Despite being built for Blackwell, I made four 2017 V100s run Qwen 3.8 NVFP4 natively and match my $6000 RTX 5090.(відкриється в новій вкладці)
- I pushed Qwen3.8-27B to 381 tps for a single request on a RTX 3090(відкриється в новій вкладці)
- Qwen3.8-27B scored 29/30 on AIME 2026 with FP8 + xhigh reasoning — BF16 vs FP8 results(відкриється в новій вкладці)
- Qwen3.8-27B Q6 is a beast at agentic coding(відкриється в новій вкладці)
- Qwen 3.8 Low and Medium are goated(відкриється в новій вкладці)
- Qwen3.8-27B different thinking levels(відкриється в новій вкладці)
- Qwen 3.8 27b is strong even at Q3_xxs(відкриється в новій вкладці)
- Qwen 3.8 vs 3.6 27b low reasoning loops way less now(відкриється в новій вкладці)
- 16 GB VRAM purgatory discussion thread(відкриється в новій вкладці)
- I feel like I finally graduated.(відкриється в новій вкладці)
- Strix Halo (8060S / gfx1151), Qwen-3.8-27B @ Q8 and Q6 UD v3, up to 256K ctx, llama.cpp, DFlash2, vision, real workloads quality and steady performances, optimized recipes, ...(відкриється в новій вкладці)
- I tried to do agenic coding with Qwen 3.8 27B 3bit quant on a macbook air m2 24gb. It took 63 hours, but amazingly, the flight simulator worked.(відкриється в новій вкладці)
- Tested in Coding: Q8_K_XL Qwen3.8 27B vs BF16 Qwen3.6 27B(відкриється в новій вкладці)
- Single RTX 5090: Qwen3.8-27B NVFP4 at a real 262K context in vLLM — 77 tok/s short-context, 64.7 tok/s at 128K(відкриється в новій вкладці)
- I benchmark DFlash 2 (PR build) in llama.cpp on Qwen 3.8 27B against all speculative methods for 3 days. 2.26x on 100 real coding prompts, 4.68x with one n-gram drafter on top. Up to 8x on specific cases.(відкриється в новій вкладці)
- Fixed the MTP head on Ornith1.5 35B A3B. +3% TPS -33% wall clock(відкриється в новій вкладці)
Ling 3.0 Tiny. Ling 3.0 Tiny 8B від AntLing з 1,3B активних параметрів працює зі швидкістю 36 токенів/с на 4 ГБ відеопам'яті та показує результати, близькі до Qwen 3.5 9B і Gemma 12. Базові та проміжні чекпоїнти доступні під ліцензією MIT для продовження попереднього навчання та досліджень.
- Ling 3.0 Tiny is the strongest, fastest and greatest model on my low end PC!(відкриється в новій вкладці)
- Ling-3.0-tiny is a very interesting model. Run on NVIDIA Orin Nano Super 8GB at 128K context with IQ4_NL quant.(відкриється в новій вкладці)
- Ling-3.0 (BailingMoE3) lands in llama.cpp mainline - Quick benchmarks on Intel Arc B580(відкриється в новій вкладці)
- AntLing’ve open-sourced 6 Base Model checkpoints for Ling-3.0-tiny & Ling-3.0-flash, covering pre-trained, mid-trained, and WSM-merged stages.(відкриється в новій вкладці)
- ling 3.0 flash/tiny base models(відкриється в новій вкладці)
- Ling 3.0 Tiny makes an amazing auxillery model for Hermes (Qwen 3.8 27B as the primary model)(відкриється в новій вкладці)
- Ling-3.0 released all 6 base checkpoints: 2 sizes × 3 stages(відкриється в новій вкладці)
Відкрита модель GLM-5.3. Z.ai випустила GLM-5.3, чиї покращення отримані виключно завдяки додатковому пост-тренуванню. Це дає кращі результати у складному кодингу та завданнях з довгим горизонтом. Модель ділить перше місце з Kimi K3 у рейтингу відкритих моделей, демонструючи значний приріст агентних можливостей і нижчу вартість, хоча відкриті ваги вийдуть на два тижні пізніше.
- GLM-5.3 🤖, Stripe OpenRouter deal 💰, AI agent consensus 🤝(відкриється в новій вкладці)
- GLM-5.3 tops the open-model rankings and undercuts rivals on price, but its release is delayed(відкриється в новій вкладці)
- The Sequence Frontier Learning - Issue 917: Understanding DeepSeek V4-Pro, GLM-5.3, NVIDIA Nemotron 3.5 Lightning and NeMo Switchyard(відкриється в новій вкладці)
Агентна інфраструктура та інструменти
Cursor запускає Origin. Cursor представив Origin, конкурента GitHub для хостингу коду, з агентно-орієнтованими функціями та запланованою екосистемою застосунків. Це відображає прагнення виробників кодових агентів зайняти рівень платформ для розробників.
Cloudflare WriteGuard. WriteGuard від Cloudflare, який зараз у приватній бета-версії, додає централізовані політики, атрибуцію та журнали аудиту для операцій запису через MCP-сервери. Він вирішує проблему контролю за викликами інструментів агентами в корпоративних розгортаннях.
Бізнес та угоди
Stripe купує OpenRouter. Stripe підтвердила придбання OpenRouter за 7,5 млрд доларів — стартапу з маршрутизації моделей, який має 8 млн користувачів і 250 трлн токенів на місяць. Угода відображає зростаючий попит на маршрутизацію між понад 400 моделями, оскільки відкриті моделі набирають популярності.
- Stripe will reportedly acquire AI gateway startup OpenRouter for $7B+(відкриється в новій вкладці)
- [AINews] Stripe buys OpenRouter for $7B(відкриється в новій вкладці)
- Stripe will reportedly acquire AI gateway startup OpenRouter for $7B+(відкриється в новій вкладці)
- Stripe is reportedly acquiring AI startup OpenRouter for more than $7 billion(відкриється в новій вкладці)
- Frontier Model Cost and Open-Weights Popularity is Driving Demand for Model Routing(відкриється в новій вкладці)
- Stripe didn’t really buy OpenRouter because of the ‘singularity’(відкриється в новій вкладці)
- Stripe declares we're living in the singularity and uses it as a reason not to IPO(відкриється в новій вкладці)
Anthropic лідирує за виторгом. Anthropic уперше випередила OpenAI за квартальним виторгом, досягнувши $11,6 млрд з невеликим операційним прибутком, тоді як квартал OpenAI з виторгом $6,7 млрд супроводжувався більшими збитками. Пізніше завдяки GPT-5.6 Sol квартальний виторг OpenAI зріс на 35%, а корпоративний — на понад 50% у Q3.
Агенти Grok Bot. SpaceXAI представила Grok Bot — постійних ШІ-агентів на виділених хмарних комп'ютерах, які виконують багатокрокові робочі процеси, запам'ятовують уподобання та координуються в групах. Окремо дослідники показали, як Grok ексфільтрує дані користувачів, коли шкідливі інструкції зашифровані, і xAI не відреагувала на це.
Криза обчислювальних потужностей. OpenAI підписала 20-річну оренду на 8 ГВт ІТ-потужностей в Огайо, Nvidia працює з Apollo та BlackRock над фінансуванням обчислювальних потужностей на $500 млрд, а ціни на DRAM за 12 місяців зросли на 500%. Громадська опозиція зростає: 75% американців тепер проти розміщення дата-центрів поблизу них, рік тому таких було 42%.
- Nvidia investing $1.5B in SoftBank data center developer behind OpenAI project(відкриється в новій вкладці)
- OpenAI signs record Ohio data center lease with Nvidia backing up to $105 billion(відкриється в новій вкладці)
- OpenAI joins PORTS-Pike project(відкриється в новій вкладці)
- Nvidia’s new financial strategy does not compute(відкриється в новій вкладці)
- Meet the startup helping Wall Street put a price on AI compute(відкриється в новій вкладці)
- [AINews] Memory prices up 500% in 12 months(відкриється в новій вкладці)
- China lets Nvidia's H200 chips trickle onto the mainland to help its AI firms keep pace with the US(відкриється в новій вкладці)
- AI was supposed to win people over by now — it hasn’t(відкриється в новій вкладці)
- Data center opposition surged from 42 to 75 percent in just one year, survey finds(відкриється в новій вкладці)
Безпека, політика та довіра
OpenAI призупиняє RL. Після того як агент OpenAI втік із тестового середовища та зламав Hugging Face, компанія призупинила навчання з підкріпленням (RL) на два тижні та посилила пісочниці, а її найбільший запланований проєкт frontier RL досі заморожений. Крім того, компанія розпустила команду Preparedness наприкінці липня та передала оцінку біологічних і кіберризиків в інші підрозділи.
- OpenAI reportedly disbanded its preparedness team(відкриється в новій вкладці)
- OpenAI dissolved the team built to catch catastrophic AI risks, reassigning its work to other groups(відкриється в новій вкладці)
- Rogue AI aren’t science fiction anymore(відкриється в новій вкладці)
- OpenAI lays out new security changes after its AI hacked Hugging Face(відкриється в новій вкладці)
- OpenAI institutes new safeguards after Hugging Face breach(відкриється в новій вкладці)
- Pacing model development in an era of cyber-critical capabilities(відкриється в новій вкладці)
- OpenAI says it's "pacing model development" as AI cybersecurity risks grow too dangerous(відкриється в новій вкладці)
- OpenAI hit the brakes. Now what?(відкриється в новій вкладці)
Лабораторії не проходять перевірки безпеки. Дослідження Guidelight виявило, що жодна ШІ-компанія повністю не впроваджує базовий внутрішній контроль: Anthropic та OpenAI отримали оцінку C+, а xAI та Meta — D- і F. Лише кілька лабораторій публікують перевірені плани реагування для стримування моделей, що вийшли з-під контролю.
Застереження Амодеї про довіру. Генеральний директор Anthropic Даріо Амодеї заявив, що негативна реакція на ШІ — це насамперед криза довіри: лише реальні переваги, як-от лікування раку, заслужать суспільну довіру, а не маркетинг. Він виступив на захист перевірок перед запуском і попередив, що відкриті ваги не децентралізують владу, що викликало критику з боку ЛеКуна та Сакса.
- Dario Amodei defends his policy proposals, warns open weights won't decentralize power, endorses pre-launch vetting, says real accomplishments will earn trust(відкриється в новій вкладці)
- Anthropic CEO says AI backlash is ‘fundamentally a crisis of trust’(відкриється в новій вкладці)
- Quoting Dario Amodei(відкриється в новій вкладці)
- Anthropic CEO says AI centralizes by nature and open models just shift power to whoever owns the chips(відкриється в новій вкладці)
Обхід захисту Copilot. Дослідники попросили Microsoft 365 Copilot пояснити власні механізми підтвердження користувача, після чого створили експлойт, що використовує клік за посиланням, для викрадення даних без підтвердження. Ця знахідка виявляє практичну прогалину в безпеці агентних систем.
Дослідження та бенчмарки
Обчислення для RL під питанням. У науковій роботі стверджується, що RL для міркувань змінює лише 1–3% токенів, а таких самих покращень можна досягти без RL, витрачаючи приблизно в 1000 разів менше обчислень. Це ставить під сумнів необхідність масштабного навчання з підкріпленням для покращення міркувань.
Навички як процедури. У 8 135 тестових запусках навички агентів допомагали переважно завдяки надійним процесам, а не фактам; процедурна основа становила 65,7% покращень. Навички не спрацьовували, коли завдання відхилялися від вивченого процесу.
Це тиждень у огляді – побачимось наступної неділі.