Релизы моделей
Mercury 3: диффузионная LLM. Inception выпустила Mercury 3 — диффузионную языковую модель, которая генерирует ответы параллельно и выдаёт 1 068 токенов в секунду при контексте 1 млн токенов. Модель доступна только через API и опережает GPT-6 Luna и Claude Haiku 5.5 в 8 из 12 бенчмарков.
MiniMax M3.1 Flash. MiniMax выпустила M3.1 Flash — MoE на 428 млрд параметров, из которых около 23 млрд активных, с контекстом 1 млн токенов. Цена — $0,15 за 1 млн входных токенов. Модель ориентирована на агентную офисную работу и программирование; веса обещают 23 октября.
Nvidia Nemotron и Bolt. Nvidia выпустила Nemotron 3.5 Super VL — модель с открытыми весами на 120 млрд параметров для корпоративных агентов — и две лёгкие модели Bolt для ИИ-ПК и рабочих станций DGX Spark. Они должны обеспечить постоянно работающие агентные сценарии на периферийных устройствах и в корпоративном сегменте.
Аудиомодели Ming. InclusionAI выпустила Ming-3.0-audio-flash — MoE на 126 млрд параметров, из которых 6,5 млрд активных — и Ming-3.0-audio-tiny на 9,3 млрд / 2,7 млрд параметров. Обе модели распространяются под лицензией MIT. Они принимают аудио и текст, поддерживают распознавание речи, голосовые вопросы и ответы и понимание длинных записей.
Drex Max: модель решений. Nace AI выпустила Drex Max — мультимодальную модель принятия решений для агентов, работающих с компьютером. Она читает текст и изображения и возвращает калиброванные вероятности, не генерируя текст. Модель набирает 67,59 балла в Decision Index 0.3.2 и доступна только через хостинговый API.
Инструменты и фреймворки
TorchNeuron для Trainium. AWS выпустила TorchNeuron — инструмент, который позволяет запускать приложения на PyTorch на чипах Amazon Trainium, изменив одну строку конфигурации. Он нацелен на преимущество в ПО, которое сделало Nvidia выбором по умолчанию среди ИИ-оборудования.
llama.cpp и Cohere. Cohere добавила в llama.cpp поддержку своего vision-энкодера North Micro Vision Instruct: теперь все её последние архитектуры совместимы с llama.cpp. Cohere Transcribe также стала доступна в Unsloth.
Berth: менеджер GPU. Berth — системный сервис, который следит за GPU и переключает движки LLM, чтобы избежать конфликтов за видеопамять и ручного переключения. Он умеет отдавать движки через API и работает на нескольких устройствах, использующих одну GPU.
VoiceManager и HermesConsole. VoiceManager — локальный сервер потокового STT/TTS с низкой задержкой. Работает по WebSocket и поддерживает слова активации, перебивание и диалоги с чередованием реплик. HermesConsole — демонстрационный клиент, показывающий, как добавить голос агентам.
Volundr: контекст 262K. Blockway создала собственный движок инференса Agens Engine для своей модели Volundr на 32 млрд параметров. Он позволяет держать длинные агентные сессии в рамках 16 ГБ видеопамяти: в 54 из 72 слоёв растущий KV-кэш заменён состояниями фиксированного размера.
Безопасность и риски агентов
Microsoft Guardian Agents. Microsoft представила Guardian Agents — агентов, которые следят за корпоративными ИИ-агентами как за внутренними угрозами. Это расширение красно-сине-зелёных команд Project Perception. Гендиректор Сатья Наделла предупреждал, что развёрнутые агенты могут вести себя как вышедшие из-под контроля сотрудники.
Утечка ключей OpenCode. Хакеры взломали старую систему OpenCode. Пострадали 1,4% пользователей OpenCode Console, возможна утечка API-ключей. Компания назвала инцидент масштабной атакой методом дистилляции.
Атака армией ИИ-агентов. Хакер использовал армию ИИ-агентов, управляемых через платформу Cairn с открытым кодом, чтобы взломать более 100 сайтов, включая John Deere, SharkNinja и Cummins. Участие человека было минимальным.
Laplace: ред-тиминг физического ИИ. Laplace Intelligence создаёт автоматизированный ред-тиминг для робототехники и беспилотных автомобилей. Цель — стресс-тестировать физический ИИ до развёртывания и собирать доказательную базу для страховщиков и регуляторов.
Бизнес и вычисления
Сделка Anthropic и Nscale. Anthropic и Nscale, по сообщениям, обсуждают вторую сделку по вычислительным мощностям на $45 млрд — чуть больше чем через месяц после объявления первой. Обе компании готовятся к IPO на фоне опасений инвесторов из-за расходов на ИИ-вычисления.
Встряска неоклаудов. Облигации CoreWeave скатились в distressed-зону, а отраслевые руководители ожидают, что через несколько лет выживут лишь от семи до десяти неоклаудов. Nvidia сильно подвержена риску: 45% выручки Nvidia в сегменте дата-центров приходит от клиентов вне крупных технологических компаний.
Tenstorrent привлекла $1,5 млрд. Tenstorrent привлекла $1,5 млрд при оценке $6,2 млрд, чтобы масштабировать выпуск ИИ-чипов для open-weight-моделей после того как отклонила предложения о поглощении. Компания сосредоточится на чипах для инференса, предназначенных для обслуживания открытых моделей и генерации видео.
Сделка Disney и Character.AI. Character.AI объявила о банкротстве в рамках сделки, которая позволяет Disney нанять большинство её сотрудников, потенциально получить технологии и избежать юридической ответственности стартапа. Оставшиеся юрлица будут отвечать по искам.
Платежи агентов в Stripe. Stripe сообщает, что число транзакций ИИ-агентов через её платёжный сервис Link выросло в 38 раз в сентябре, но абсолютные цифры компания не раскрывает. Link теперь используют около 200 агентов, включая Muse от Meta и Grok Bot, в основном в ритейле и туризме.
Политика и общество
Мэр Нью-Йорка против. Мэр Нью-Йорка Зохран Мамдани призвал жителей не принимать ИИ как неизбежность, сославшись на бездействие федеральных властей в регулировании. Недавно он запретил ИИ в начальных и средних школах и хочет, чтобы города привлекали ИИ-компании к ответственности.
Компромиссы агентского веба. По мере масштабирования персональных ИИ-агентов от OpenAI и Meta многие сайты блокируют их. Перестройка интернета под агентов может ухудшить опыт для людей. Трафик агентского веба вырос втрое с августа по сентябрь.
Кризис доверия к бенчмаркам. Глава направления политики Hugging Face заявил, что оценка моделей — всё ещё формирующаяся дисциплина, а воспроизводимость зависит от доступа к весам. Независимый анализ 1 629 опубликованных результатов показал: ИИ-лаборатории в среднем сообщают об оценках на 6,4% выше, чем независимые тестировщики.
Демократы присмотрят за ИИ. Если демократы вернут контроль над Конгрессом, руководители ключевых комитетов дали понять, что будут проверять ИИ-компании из-за налоговых льгот для дата-центров и инцидентов со взломами. Гендиректоров могут вызвать на слушания. ИИ играет всё большую роль в предвыборной рекламе к промежуточным выборам.
Исследования и интерпретируемость
Заявка на прорыв. В посте на 26 000 слов исследователь Goodfire Ник Каммарата утверждает, что LLM могут оказаться гораздо проще для понимания, мониторинга и контроля, чем считалось ранее. Если это так, это может удовлетворить острую потребность отрасли в управлении поведением агентов.
Кодинг на legacy-языках. OpenAI объявила о расширенных возможностях создания и миграции ПО на COBOL, Fortran и Visual Basic. Эти языки поддерживают критическую инфраструктуру, но по ним меньше обучающих данных. Работа нацелена на корпоративное сопровождение и модернизацию.
Адаптивное мышление через энтропию. Эксперимент с локальной LLM использует энтропию на уровне слов и гейты в стиле Jev, чтобы включать блоки размышления только при неуверенности модели. Параллельные деревья диалога выбирают лучшую ветку. Подход призван сократить лишние токены рассуждений.
EmbeddingGemma 2. Google выпустила EmbeddingGemma 2 — компактную мультимодальную модель эмбеддингов под лицензией Apache-2.0. Она представляет текст, код, изображения, видео и аудио в едином 768-мерном пространстве для поиска на устройстве и RAG.
Это всё за этот день – примерно 5 минут чтения.