Релізи моделей
Дифузійна LLM Mercury 3. Inception випустила Mercury 3 — дифузійну мовну модель, яка генерує відповіді паралельно й видає 1 068 токенів за секунду з контекстом 1 млн токенів. Модель, доступна лише через API, випереджає GPT-6 Luna і Claude Haiku 5.5 у 8 із 12 бенчмарків.
MiniMax M3.1 Flash. MiniMax випустила M3.1 Flash — MoE-модель на 428B параметрів, з приблизно 23B активних і контекстом 1 млн токенів, за ціною $0,15 за мільйон вхідних токенів. Вона орієнтована на агентну офісну роботу й програмування, а ваги обіцяють опублікувати 23 жовтня.
Nvidia Nemotron і Bolt. Nvidia випустила Nemotron 3.5 Super VL — модель із відкритими вагами на 120B параметрів для корпоративних агентів — і дві легкі моделі Bolt для ШІ-ПК та робочих станцій DGX Spark. Моделі мають охопити постійно активні агентні робочі процеси на периферії та в корпоративному сегменті.
Аудіомоделі Ming. InclusionAI випустила Ming-3.0-audio-flash — MoE на 126B параметрів із 6,5B активних — і Ming-3.0-audio-tiny на 9,3B/2,7B; обидві під MIT. Вони приймають аудіо й текст, підтримують розпізнавання мовлення, голосові запитання й відповіді та розуміння довгих записів.
Drex Max: модель рішень. Nace AI випустила Drex Max — мультимодальну модель рішень для агентів, які працюють із комп’ютером. Вона читає текст і зображення та повертає відкалібровані ймовірності, не генеруючи текст. Модель набирає 67,59 у Decision Index 0.3.2 і доступна лише через хостинговий API.
Інструменти й фреймворки
TorchNeuron для Trainium. AWS випустила TorchNeuron — інструмент, який дозволяє запускати застосунки PyTorch на чипах Amazon Trainium, змінивши один рядок конфігурації. Він націлений на програмну перевагу, завдяки якій Nvidia стала типовим вибором апаратного забезпечення для ШІ.
Підтримка Cohere у llama.cpp. Cohere додала в llama.cpp підтримку свого візуального енкодера North Micro Vision Instruct, тож усі її найновіші архітектури тепер сумісні з llama.cpp. Cohere Transcribe також стала доступною в Unsloth.
Berth: менеджер GPU. Berth — це системний сервіс, який стежить за GPU і перемикає рушії LLM, щоб уникнути конфліктів у VRAM і ручного перемикання. Він може надавати рушії як API і працює з кількома пристроями, що спільно використовують один GPU.
VoiceManager і HermesConsole. VoiceManager — це локальний сервер потокового STT/TTS із низькою затримкою, що працює через WebSocket і підтримує wake words, barge-in і діалоги з чергуванням реплік. HermesConsole — демонстраційний клієнт, який показує, як додати агентам голос.
Volundr: контекст 262K. Blockway створила власний інференс-рушій Agens Engine для своєї 32B-моделі Volundr. Він утримує довгі агентні сесії в межах 16 ГБ пам’яті GPU, замінюючи зростаючий KV-кеш станами фіксованого розміру в 54 із 72 шарів.
Безпека й ризики агентів
Guardian Agents від Microsoft. Microsoft представила Guardian Agents — агентів для моніторингу корпоративних ШІ-агентів як інсайдерських загроз; вони розширюють red/blue/green-команди проєкту Perception. Гендиректор Сатья Наделла попереджав, що розгорнуті агенти можуть поводитися як працівники-зловмисники.
Витік API-ключів OpenCode. Хакери зламали старішу систему OpenCode, що зачепило 1,4% користувачів OpenCode Console і могло призвести до розкриття API-ключів. Компанія назвала інцидент масштабною атакою дистиляції.
ШІ-агенти атакували сайти. Хакер використав армію ШІ-агентів, якими керував через платформу з відкритим кодом Cairn, щоб зламати понад 100 сайтів, зокрема John Deere, SharkNinja і Cummins, майже без участі людини.
Laplace: red-teaming фізичного ШІ. Laplace Intelligence створює автоматизований red-teaming для робототехніки й самокерованих автомобілів. Мета — стрес-тестувати фізичний ШІ до розгортання та формувати доказову базу для страховиків і регуляторів.
Бізнес і обчислювальні потужності
Anthropic і Nscale: $45 млрд. Anthropic і Nscale, за повідомленнями, ведуть переговори про другу угоду на $45 млрд щодо обчислювальних ресурсів — трохи більш як через місяць після оголошення першої. Обидві компанії готуються до IPO на тлі занепокоєння інвесторів витратами на обчислення для ШІ.
Чистка на ринку neocloud. Облігації CoreWeave опинилися в проблемній зоні, а керівники галузі очікують, що за кілька років виживуть лише від семи до десяти neocloud-компаній. Nvidia має значну експозицію: 45% її доходу від дата-центрів надходить від клієнтів поза великими технокомпаніями.
Tenstorrent залучила $1,5 млрд. Tenstorrent залучила $1,5 млрд за оцінки $6,2 млрд, щоб масштабувати ШІ-чипи для відкритих моделей після відмови від пропозицій про поглинання. Компанія зосередиться на чипах для інференсу відкритих моделей і генерації відео.
Угода Disney і Character.AI. Character.AI оголосила про банкрутство в межах угоди, яка дозволяє Disney найняти більшість її персоналу, потенційно придбати технології та уникнути юридичної відповідальності стартапу. За такої структури відповідати за позовами доведеться решті юросіб.
Платежі ШІ-агентів у Stripe. Stripe повідомляє, що кількість транзакцій, які ШІ-агенти провели через платіжний сервіс Link, у вересні зросла у 38 разів, але абсолютних цифр компанія не розкриває. Link уже використовують близько 200 агентів, зокрема Muse від Meta і Grok Bot, переважно для роздрібних покупок і подорожей.
Політика й суспільство
Мер Нью-Йорка проти ШІ. Мер Нью-Йорка Зохран Мамдані закликав мешканців не піддаватися відчуттю, що ШІ неминучий, посилаючись на бездіяльність федеральної влади в регулюванні. Нещодавно він заборонив ШІ в початкових і середніх школах і хоче, щоб міста притягали ШІ-компанії до відповідальності.
Веб для агентів: компроміси. У міру того, як персональні ШІ-агенти від OpenAI і Meta набирають масштабу, багато сайтів їх блокують, а перебудова інтернету під агентів може погіршити досвід людей. Трафік агентного вебу з серпня до вересня зріс утричі.
Криза довіри до бенчмарків. Керівниця напряму політики Hugging Face заявила, що оцінювання моделей — наука, яка ще формується, а відтворюваність залежить від доступу до ваг. Незалежний аналіз 1 629 опублікованих результатів показав, що ШІ-лабораторії в середньому повідомляють оцінки на 6,4% вищі, ніж незалежні тестувальники.
Демократи готують нагляд за ШІ. Якщо Демократи повернуть контроль над Конгресом, керівники ключових комітетів уже сигналізували про пильну увагу до ШІ-компаній через податкові пільги для дата-центрів і хакерські інциденти; вони можуть викликати генеральних директорів на слухання. ШІ дедалі частіше з’являється в передвиборчій рекламі до проміжних виборів.
Дослідження й інтерпретованість
Прорив в інтерпретованості. Дослідник Goodfire Нік Каммарата в дописі на 26 000 слів стверджує, що LLM можуть бути значно простішими для розуміння, моніторингу й контролю, ніж вважали досі. Якщо це правда, це може закрити нагальну потребу галузі в керуванні поведінкою агентів.
COBOL, Fortran і Visual Basic. OpenAI оголосила про посилені можливості для створення й міграції програмного забезпечення на COBOL, Fortran і Visual Basic — мовах, які підтримують критичну інфраструктуру, але мають менше даних для навчання. Робота орієнтована на корпоративний супровід і модернізацію.
Адаптивне мислення через ентропію. Експеримент із локальною LLM використовує ентропію на рівні слів і Jev-подібні гейти, щоб запускати блоки міркування лише тоді, коли модель не впевнена; паралельні дерева розмов обирають найкращу гілку. Підхід має зменшити кількість зайвих токенів міркування.
EmbeddingGemma 2. Google випустила EmbeddingGemma 2 — компактну мультимодальну модель ембедингів під Apache-2.0, яка подає текст, код, зображення, відео й аудіо в єдиному 768-вимірному просторі для пошуку на пристрої та RAG.
Це все за цей день – приблизно 5 хвилин читання.