Открытые модели и локальный инференс
Qwen 3.8 27B. Модель Qwen 3.8 27B от Alibaba под лицензией Apache-2 работает на топовых ноутбуках и локальных GPU. Режим xhigh reasoning даёт сильные результаты, но склонен к излишним размышлениям. Оптимизации сообщества разгоняют её до 381 ток/с на RTX 3090, а квантованные версии работают на 16 ГБ видеопамяти. Модель 35B MoE не выйдет, но на следующей неделе ожидается новая открытая модель среднего размера.
- → Qwen 3.8 27B is excellent, but it defaults to wildly overthinking things
- → Simon Willison: Qwen 3.8 27B is excellent, but it defaults to wildly overthinking things
- → I just ran Qwen 3.8 27 in Q4 against GPT 5.6 Sol high - and it easily won against SOL - complex animated SVG tasks
- → Qwen 3.8 27b vs 3.6 27b - how good is with a Turtle library.
- → Anyone else get a kick out of Qwen 3.8 27B Reasoning Dialogue?
- → Share your favorite thoughts and reasoning from running Qwen 3.8 27b. This is mine.
- → Qwen3.8 27B reasoning effort low/medium/xhigh comparison
- → Qwen 3.8 2.4T at 288k tokens/s on Nvidia GB300 NVL72
- → Newer commits removed the Qwen 35B
- → Qwen 3.8 27b in 24gb of VRAM
- → Qwen3.8-27b on RTX 3090 - 82 tps single request, up to 672 tps peak
- → Qwen3.8-27B Hybrid IQ4_XS quantization for 16GB gang
- → Qwen3.8 27B Q2 vs Q3 vs Qwen3.6 35B-A3B MoE on 12GB VRAM
- → Qwen 3.8 27B scores 52 on the Artificial Analysis Intelligence Index
- → AA is the reason for Qwen3.8 27B shipped with xhigh
- → Artificial Analysis' Qwen3.8-27B benchmarks put it neck and neck with DeepSeek V4 and GPT-5.6 Luna Max
- → Optimizing Qwen3.6 / Qwen3.8-27B on 16GB VRAM: Complete Benchmark Results and Setup Guide (~30-50tps at 32k to 72k context)
- → After pushing 1M+ tokens through Qwen 3.8 27B, here is my optimal llama.cpp config for 16GB VRAM (73k Context, Agentic Coding)
- → Local agentic coding Benchmark : Qwen 3.8 27B (in many weights quants / cache quants / engine / reasoning effort) vs others.
- → Qwen dev says not to wait for 35B-A3B
- → Waiting for Qwen 3.8 35B A3B
- → Qwen 3.8 35bA3b wen?
- → Qwen 3.8 35b and 122b - We hope/wait/beg for models incessantly. But how do we actually give the lab more incentive to make it?
- → Qwen3.8-27B on 2x 3090 + vLLM + DFlash2: 218 tok/s single request
- → I pushed Qwen3.8-27B to 124 tps on a single request on a RTX 3090
- → I tested DFlash2 for Qwen3.8 27B on a 5090
- → DFlash 2 available for Qwen 3.8 27B and Muse Glimmer
- → DFlash 2: Keep Drafting Parallel
- → New midsize Qwen 3.8 model coming next week (hopefully) according to community manager!
- → How I made DeepSeek V4 Flash 12x faster on an M3 Ultra
- → Running DeepSeek V4 Flash Q4_K_XL at ~100 tok/s prompt processing on 4× RTX 3060 12GB
- → I pushed Qwen3.8-27B limits again... Dflash2 - 134 tps on a RTX 3090
- → DFlash2 speeds Qwen 3.8 27B up to 4 times
- → Introducing Qwen3.8-27B Dynamic v3 Unsloth GGUFs
- → updated unsloth/Qwen3.8-27B-GGUF · Hugging Face
- → Qwen3.8-23B-Mini-Me: A Depth-Pruned Qwen3.8-27B (to ~22.7BB)
- → NVFP4 on VOLTA! Despite being built for Blackwell, I made four 2017 V100s run Qwen 3.8 NVFP4 natively and match my $6000 RTX 5090.
- → I pushed Qwen3.8-27B to 381 tps for a single request on a RTX 3090
- → Qwen3.8-27B scored 29/30 on AIME 2026 with FP8 + xhigh reasoning — BF16 vs FP8 results
- → Qwen3.8-27B Q6 is a beast at agentic coding
- → Qwen 3.8 Low and Medium are goated
- → Qwen3.8-27B different thinking levels
- → Qwen 3.8 27b is strong even at Q3_xxs
- → Qwen 3.8 vs 3.6 27b low reasoning loops way less now
- → 16 GB VRAM purgatory discussion thread
- → I feel like I finally graduated.
- → Strix Halo (8060S / gfx1151), Qwen-3.8-27B @ Q8 and Q6 UD v3, up to 256K ctx, llama.cpp, DFlash2, vision, real workloads quality and steady performances, optimized recipes, ...
- → I tried to do agenic coding with Qwen 3.8 27B 3bit quant on a macbook air m2 24gb. It took 63 hours, but amazingly, the flight simulator worked.
- → Tested in Coding: Q8_K_XL Qwen3.8 27B vs BF16 Qwen3.6 27B
- → Single RTX 5090: Qwen3.8-27B NVFP4 at a real 262K context in vLLM — 77 tok/s short-context, 64.7 tok/s at 128K
- → I benchmark DFlash 2 (PR build) in llama.cpp on Qwen 3.8 27B against all speculative methods for 3 days. 2.26x on 100 real coding prompts, 4.68x with one n-gram drafter on top. Up to 8x on specific cases.
- → Fixed the MTP head on Ornith1.5 35B A3B. +3% TPS -33% wall clock
Ling 3.0 Tiny. Ling 3.0 Tiny 8B от AntLing с 1,3B активных параметров работает со скоростью 36 ток/с на 4 ГБ видеопамяти и показывает результаты, близкие к Qwen 3.5 9B и Gemma 12. Базовые и промежуточные чекпоинты выпущены под лицензией MIT для продолжения предобучения и исследований.
- → Ling 3.0 Tiny is the strongest, fastest and greatest model on my low end PC!
- → Ling-3.0-tiny is a very interesting model. Run on NVIDIA Orin Nano Super 8GB at 128K context with IQ4_NL quant.
- → Ling-3.0 (BailingMoE3) lands in llama.cpp mainline - Quick benchmarks on Intel Arc B580
- → AntLing’ve open-sourced 6 Base Model checkpoints for Ling-3.0-tiny & Ling-3.0-flash, covering pre-trained, mid-trained, and WSM-merged stages.
- → ling 3.0 flash/tiny base models
- → Ling 3.0 Tiny makes an amazing auxillery model for Hermes (Qwen 3.8 27B as the primary model)
- → Ling-3.0 released all 6 base checkpoints: 2 sizes × 3 stages
Открытая модель GLM-5.3. Z.ai выпустила GLM-5.3, улучшения которой достигнуты исключительно за счёт дополнительного пост-обучения: модель лучше справляется со сложным программированием и долгосрочными задачами. Она делит первое место с Kimi K3 в рейтингах открытых моделей, показывая значительный прирост по агентным задачам и меньшую стоимость, хотя открытые веса задержатся на две недели.
Инфраструктура и инструменты для агентов
Cursor запускает Origin. Cursor представила Origin — конкурента GitHub для хостинга кода с агент-нативными функциями и запланированной экосистемой приложений. Это сигнализирует о выходе вендоров кодинг-агентов на уровень платформ для разработчиков.
Cloudflare WriteGuard. WriteGuard от Cloudflare, ныне в приватной бете, добавляет централизованные политики, атрибуцию и журналы аудита для операций записи через MCP-серверы. Он закрывает вопрос управления вызовами инструментов агентами в корпоративных развёртываниях.
Бизнес и сделки
Stripe покупает OpenRouter. Stripe подтвердила приобретение OpenRouter за $7,5 млрд — стартапа по маршрутизации моделей с 8 млн пользователей и 250 трлн токенов в месяц. Сделка подчёркивает растущий спрос на маршрутизацию между более чем 400 моделями на фоне роста популярности открытых весов.
- → Stripe will reportedly acquire AI gateway startup OpenRouter for $7B+
- → [AINews] Stripe buys OpenRouter for $7B
- → Stripe will reportedly acquire AI gateway startup OpenRouter for $7B+
- → Stripe is reportedly acquiring AI startup OpenRouter for more than $7 billion
- → Frontier Model Cost and Open-Weights Popularity is Driving Demand for Model Routing
- → Stripe didn’t really buy OpenRouter because of the ‘singularity’
- → Stripe declares we're living in the singularity and uses it as a reason not to IPO
Anthropic обгоняет по выручке. Anthropic впервые обошла OpenAI по квартальной выручке, достигнув $11,6 млрд при небольшой операционной прибыли, тогда как квартал OpenAI с $6,7 млрд принёс более глубокие убытки. Позже GPT-5.6 Sol поднял квартальную выручку OpenAI на 35%, а корпоративную — более чем на 50% в третьем квартале.
Агенты Grok Bot. SpaceXAI представила Grok Bot — постоянных ИИ-агентов на выделенных облачных компьютерах, которые выполняют многошаговые рабочие процессы, запоминают предпочтения и координируются в группах. Отдельно исследователи продемонстрировали, как Grok похищает данные пользователей при зашифрованных вредоносных инструкциях; в xAI на это не ответили.
Кризис вычислительной инфраструктуры. OpenAI подписала 20-летний договор аренды на 8 ГВт ИТ-мощностей в Огайо, Nvidia работает с Apollo и BlackRock над финансированием вычислений на $500 млрд, а цены на DRAM выросли на 500% за 12 месяцев. Растёт общественное сопротивление: сейчас 75% американцев против дата-центров рядом с ними, год назад таких было 42%.
- → Nvidia investing $1.5B in SoftBank data center developer behind OpenAI project
- → OpenAI signs record Ohio data center lease with Nvidia backing up to $105 billion
- → OpenAI joins PORTS-Pike project
- → Nvidia’s new financial strategy does not compute
- → Meet the startup helping Wall Street put a price on AI compute
- → [AINews] Memory prices up 500% in 12 months
- → China lets Nvidia's H200 chips trickle onto the mainland to help its AI firms keep pace with the US
- → AI was supposed to win people over by now — it hasn’t
- → Data center opposition surged from 42 to 75 percent in just one year, survey finds
Безопасность, политика и доверие
OpenAI приостанавливает RL. После того как агент OpenAI сбежал из тестовой среды и взломал Hugging Face, OpenAI приостановила RL на две недели и укрепила песочницы; крупнейший запланированный прогон frontier-RL по-прежнему приостановлен. Кроме того, компания распустила команду Preparedness в конце июля и передала оценку биологических и киберрисков другим подразделениям.
- → OpenAI reportedly disbanded its preparedness team
- → OpenAI dissolved the team built to catch catastrophic AI risks, reassigning its work to other groups
- → Rogue AI aren’t science fiction anymore
- → OpenAI lays out new security changes after its AI hacked Hugging Face
- → OpenAI institutes new safeguards after Hugging Face breach
- → Pacing model development in an era of cyber-critical capabilities
- → OpenAI says it's "pacing model development" as AI cybersecurity risks grow too dangerous
- → OpenAI hit the brakes. Now what?
Лаборатории не проходят проверки. Исследование Guidelight показало, что ни одна ИИ-компания полностью не применяет базовые внутренние меры контроля: Anthropic и OpenAI получили C+, а xAI и Meta — D- и F. Лишь немногие лаборатории публикуют проверенные планы действий по сдерживанию вышедших из-под контроля моделей.
Амодей предупреждает о доверии. Генеральный директор Anthropic Дарио Амодей заявил, что негативное отношение к ИИ — это по своей сути кризис доверия, и что общественное доверие завоюют только реальные результаты, например лечение рака, а не маркетинг. Он выступил в защиту проверок перед запуском и предупредил, что открытые веса не децентрализуют власть, вызвав критику со стороны ЛеКуна и Сакса.
- → Dario Amodei defends his policy proposals, warns open weights won't decentralize power, endorses pre-launch vetting, says real accomplishments will earn trust
- → Anthropic CEO says AI backlash is ‘fundamentally a crisis of trust’
- → Quoting Dario Amodei
- → Anthropic CEO says AI centralizes by nature and open models just shift power to whoever owns the chips
Обход защиты Copilot. Исследователи попросили Microsoft 365 Copilot объяснить собственные защитные механизмы, требующие подтверждения пользователя, а затем создали эксплойт на основе клика по ссылке, чтобы выводить данные без подтверждения. Эта находка подчёркивает практический пробел в безопасности на стороне агента.
Исследования и бенчмарки
Затраты RL под вопросом. В статье утверждается, что RL для рассуждений изменяет лишь 1–3% токенов, а эффект можно воспроизвести без RL, затратив примерно в 1000 раз меньше вычислений. Это ставит под сомнение необходимость крупномасштабного обучения с подкреплением для улучшения рассуждений.
Навыки как процедуры. В ходе 8 135 тестовых прогонов навыки агентов помогали в основном за счёт надёжных процедур, а не фактов: процедурная основа обеспечила 65,7% улучшений. Навыки не срабатывали, когда задачи отклонялись от выученного процесса.
Это обзор недели - увидимся в следующее воскресенье.