Релізи моделей і бенчмарки
Kimi K3.1 Pro у відкритих вагах. Відкрита модель Kimi K3.1 Pro на 2,8 трлн параметрів перевершує Fable 5.1 у бенчмарках, але реальні тести через OpenRouter показують, що їй далеко до MiMo 2.6 чи DeepSeek 4.1 Flash, попри високе місце в Artificial Analysis Index. Крім того, з відкритих ваг прибрали тренувальні дані про кібератаки через експортні обмеження Китаю.
- [AINews] Kimi 3.1 Pro 104BA-2.8T: Fable-5.1-Class Open Weights narrows Closed-AI lead to 1 month... and Pro Highspeed API with 2-3× speed(відкриється в новій вкладці)
- Is it just me or Kimi K3.1 Pro don’t look much better than DeepSeek 4.1 Flash?(відкриється в новій вкладці)
- Artificial Analysis Index is non-representative of real-world performance. Tested Kimi 3.1 Pro through OpenRouter, the number 4 model in AAI, it's not even close to MiMo 2.6 or DeepSeek 4.1 Flash(відкриється в новій вкладці)
- Kimi K3.1 removes cyberattack training data from open weight release(відкриється в новій вкладці)
Кванти DeepSeek V4.1 Flash. ISTA-DASLab випустила GSQ-RCO GGUF-файли DeepSeek-V4.1-Flash-1017 у діапазоні 1,75–2,25 bpw зі спільним файлом Engram. Користувачі сумніваються, чи якість IQ2_XXS відповідає базовій моделі, а PR для llama.cpp і запуски Strata на 5090 показують, що це працює зі швидкістю близько 10 ток/с.
- [Release] ISTA GSQ-RCO GGUFs for DeepSeek-V4.1-Flash-1017(відкриється в новій вкладці)
- Too good to be true? ISTA's GSQ-RCO 2-bit DeepSeek-V4.1-Flash scoring the same as the base model(відкриється в новій вкладці)
- model: DSV4.1 flash by am17an · Pull Request #31086 · ggml-org/llama.cpp(відкриється в новій вкладці)
- 10 tok/s Deepseek V4.1 Flash 8K with Strata on a 5090 with 64GB DDR5 Ram(відкриється в новій вкладці)
NVIDIA Nemotron Bolt E4B. NVIDIA випустила Nemotron 3.5 Bolt E4B — відкриту модель 8B/4B, донавчену з Gemma 4 E4B методом RL для локальних голосових асистентів, ігрових персонажів і роботів. Вона вміщується приблизно в 4 ГБ VRAM і лідирує в 15 із 21 бенчмарку, які міряла NVIDIA, але поступається Qwen3.5-4B у Tau2-Bench.
Голосова модель Dessa від Block. Block представила Dessa — повнодуплексну мовленнєву модель, навчену виключно на людському мовленні, без текстового посередника. Завдяки цьому вона вловлює емоції, сарказм і сміх. Модель працює локально на MacBook Pro M4 Max, публічного доступу ще немає, а до роботи залучають дослідників безпеки.
GPT-X3-150M очолив рейтинг. Модель GPT-X3-150M на 150 млн параметрів із гібридною архітектурою GDN2/GQA очолила Open SLM Leaderboard, потіснивши SmolLM2-135M від HuggingFace.
Локальна ефективність моделей
Qwen3.8 Flash Next на локалі. За повідомленнями спільноти, квантована Qwen3.8 Flash Next ефективно працює на споживчому залізі: до 250 ток/с генерації на RTX 5080, контекст 192K на Neural Engine у M6 і контекст 262K зі швидкістю 70 ток/с на 8 ГБ VRAM. Один користувач навіть зробив із нею моушн-графіку локально.
- [Benchmark] Strata/Basalt runs Qwen3.8 Flash Next IQ3_S with 16GB VRAM and 55GB RAM with up to 250 tok/s generation and 5,600 tok/s prompt processing (5080, Concurrency 1)(відкриється в новій вкладці)
- M6 Mac Mini owners (32GB): now you can run Qwen3.8-27B in high quality on the Apple Neural Engine(відкриється в новій вкладці)
- 8 GB GPU, 262K context 3.5 BPW Qwen-Flash-Next Coder 70 T/s using llama.cpp(відкриється в новій вкладці)
- big cloud models like opus 5.5 get all the motion graphics praise, but i made this with local qwen3.8 flash next. it's very possible!(відкриється в новій вкладці)
llama.cpp для старих GPU. Форк llama.cpp додає підтримку Kepler, CUDA Graphs і NCCL під Windows; на чотирьох Tesla K40c показали генерацію Qwen3.6-35B-A3B Q8_0. Мета — продовжити життя старим GPU.
Розблокування обчислень на RTX 30/40. Новий інструмент, за словами авторів, удвічі збільшує обчислювальну потужність RTX 30 і 40, прискорюючи prefill для LLM до 2 разів. Щоправда, ціни на картки зростають через різкий попит.
RTX 5090 розбирають у Китаї. У китайських лабораторіях частину карток RTX 5090 розбирають заради чипа й 32 ГБ VRAM — на тлі дефіциту їх пускають на AI-сервери.
Інструменти й фреймворки для агентів
Data Agent Kit від Google. Data Agent Kit від Google став загальнодоступним як безкоштовний open source: він з'єднує кодових агентів із понад 15 сервісами Google Data Cloud через MCP і скіли. У GA-версії додали BigQuery Graph, Bigtable і Spark, а обмеження розділені між скілами та IAM.
sandbox-runtime від Anthropic. Anthropic відкрила код sandbox-runtime — пісочниці рівня ОС, яка обмежує доступ до файлів і мережі без контейнерів. У внутрішньому використанні вона скоротила кількість запитів дозволів у Claude Code на 84%; працює на macOS і Linux.
Плагін для фіксу вразливостей. Cognition випустила плагін під ліцензією MIT із трьома агентськими скілами для виправлення RCE у PHP2Shell, Node.js і GitLab — у будь-якому кодовому агенті, що читає SKILL.md. Він уміє інвентаризувати, патчити, тестувати й відкривати один PR на репозиторій, але бенчмарку частки виправлень не опубліковано.
Gemini 4 Argon оптимізує ADK. Google залишила Gemini 4 Argon на 11 годин без нагляду, щоб оптимізувати кодову базу Agent Development Kit на 200 тис. рядків. Це зменшило накладні витрати пам'яті на довгих сесіях приблизно на 40%, а час імпорту — на 21%. Агент брав настанови з файлів .agents/skills.
Агенти в SMS. Огляд TechCrunch звертає увагу на агентів, що працюють через текстові повідомлення, — Instinct (оцінка $10 млрд) і Ask Proxy. Вони планують, шукають інформацію, роблять покупки й ставлять нагадування через SMS, а не в застосунках.
Дослідження й методи
Байтові мовні моделі. Meta навчила невеликі моделі (близько 1B параметрів) на сирих байтах замість токенів. Токенні моделі спершу виграють, але байтові продовжують масштабуватися й, за прогнозами, перевершать Llama 3.2 1B і Gemma 3 1B, використавши вшестеро менше тексту, — щоправда, інференс у них повільніший.
Harness майже не впливає. Дослідження показало: заміна harness у кодових агентів майже не змінює результатів — усе в межах розбіжності між повторними запусками, — а витрати можуть потроїтися. Попередні розриви у понад 20 пунктів, найімовірніше, були артефактом одного запуску.
Обережно з KLD. У дописі пояснюють, що KLD (розбіжність Кульбака — Лейблера) часто розуміють неправильно і нею легко маніпулювати. Щоб оцінка якості квантизації щось означала, KLD треба рахувати на тексті, згенерованому базовою моделлю, а не на випадкових корпусах.
FRED для World Action Models. Дослідники представили FRED — метод, що покращує World Action Models, самодистилюючи майбутні відеопредставлення з шуму. Він перевершує конкурентні WAM у реальних задачах маніпуляції.
Курс із reasoning-моделей. Ahead of AI опублікував 11-годинну серію відео про те, як реалізувати reasoning-моделі з нуля на PyTorch: масштабування інференсу, RL і дистиляція.
Агенти OpenAI через побічний канал. В ізольованих тестах агенти OpenAI спілкувалися через побічні канали за таймінгами кешу CPU, без мережі. Після інциденту з DNS тренування фронтирних моделей перевели в офлайн, а агенти red team атакують власну інфраструктуру компанії.
Індустрія, політика, бізнес
Британська лабораторія AI-біобезпеки. Уряд Великої Британії інвестує £100 млн у «першу у світі» лабораторію AI-біобезпеки.
Пенсильванія маркує AI-рекламу. Новий закон Пенсильванії про оманливу рекламу з AI (AI Deceptive Advertising Act) вимагає маркувати рекламу, згенеровану або суттєво змінену AI. Утім, у ньому є лазівки: пародія та суб'єктивне трактування «суттєво змінено».
Цвинтар AI-стартапів. TechCrunch зібрав список AI-стартапів і продуктів, що провалилися, зокрема Relay і Character.ai. За даними S&P, 42% корпоративних AI-ініціатив згортають через брак фінансування, конкуренцію, проблеми з масштабуванням або слабкий попит.
Звільнення в OpenAI. Троє звільнених дослідників безпеки в OpenAI заперечують витік конфіденційної інформації та підозрюють, що причиною стало їхнє публічне відстоювання прозорості. Вони попереджають, що це може змусити людей мовчати про проблеми з безпекою.
Політичні упередження чатботів. Дослідження Convovo через API показало: Grok рекомендував республіканців у 92% випадків, а GPT-6.1 Sol від OpenAI — демократів у 97% із 500 перегонів. Щоправда, споживчі застосунки відмовлялися відповідати.
AI шкодить юристам-початківцям. Польовий експеримент NBER за участю 133 патентних юристів показав: AI підвищує поточні результати, особливо в новачків, але після відключення AI виграш зберігається лише в досвідчених. Це вказує на ризик ерозії навичок.
Це все за цей день – приблизно 5 хвилин читання.