Modelos abertos e lançamentos
JetBrains Mellum2.1 MTP. A JetBrains lançou o Mellum2.1-12B-A2.5B-Thinking-MTP, que adiciona uma cabeça de predição multi-token que funciona como um rascunho especulativo. Os motores de inferência verificam cada token rascunhado. O resultado é uma decodificação 1,4–1,8× mais rápida, com saída inalterada e cerca de 90% de aceitação dos rascunhos.
Modelo de decisão Drex Max. A Nace AI abriu o código do Drex Max v1, um modelo de decisão dense de 27B com janela de 262 mil tokens que pontua até 255 opções por pergunta em um único forward pass. Ele roda em GPUs NVIDIA ou Apple Silicon e registra 67,52 no Decision Index 0.4.
Codificador de assets 3D. Um novo modelo de código de 4B, o GLB-3D-Coder, escreve cenas Three.js com exportação GLB para game engines como Godot. Ele gera assets 3D simples, como uma poção de mana ou um posto médico, a partir de prompts curtos em inglês.
TTS com tags de emoção. O Silencio-2 é um fine-tune aberto de 18M do Pocket TTS que segue tags no texto para emoções e sons, como [sigh] ou <angry>. Ele roda a cerca de 20× em tempo real na CPU e está disponível no Hugging Face e em uma demo no Colab.
Steering no Heretic 2.0. O Heretic 2.0 expande a remoção de censura para a modificação geral de modelos com Arbitrary-Rank Ablation, com o objetivo de suprimir slop, reduzir a bajulação e alterar o alinhamento emocional. O projeto relata 37 mil estrelas no GitHub e 88 milhões de downloads do modelo.
Sistemas de agentes e pesquisa
Agente router-worker da DeepSeek. A DeepSeek abriu o código do dsh-superagent, um agente de código proativo para GitHub que transforma solicitações permitidas em itens de trabalho paralelos, cada um em sua própria sessão. Em simulação, um fluxo de mensagens ruidoso concluiu tarefas 1,9× mais rápido que uma baseline de sessão única (p95 de 15,7 vs. 29,5 min).
Equipe de 5 modelos Memdoor. O Memdoor combina cinco modelos Qwen3.8-27B, supera o Fable 5 no LiveCodeBench Hard e demonstra um pequeno time de agentes com modelos abertos para programação competitiva.
Edição de imagens com EditAgent. A Adobe Research e a UC San Diego criaram o EditAgent, que divide edições de imagem em subetapas e usa um LLM comum para avaliar variantes paralelas com estatísticas medidas. Ele supera agentes anteriores, mas exige cerca de 10× mais computação.
Assistente de vídeo StreamVibe. Pesquisadores liderados pelo Google apresentaram o StreamVibe, um agente de vídeo que decide quando falar durante tarefas como cozinhar ou montar móveis. Testes mostram que os modelos atuais ainda têm dificuldade com pedidos vagos e em acompanhar etapas concluídas.
Co-design System-1/2. Um novo artigo teórico argumenta que o scaling da AGI pode se beneficiar de um preditor leve de System-1 que filtra interações caras de System-2 antes da execução. Com triagem ideal, a computação de execução pode cair até 1/ρ_u.
Inferência local e hardware
Aceleração MoE no tandem.cpp. O tandem.cpp é um conjunto de patches do llama.cpp que mantém na GPU os experts mais usados e faz offload do restante para a CPU em qualquer MoE. Em uma única 4090 com 64 GB de RAM, o Qwen3.8-Flash-Next decodifica a 97 tok/s, 3,3× mais rápido que o llama.cpp.
Engine Speedy para Qwen3.8. O Speedy supera o Avalon e o Strata no prefill do Qwen3.8-Flash-Next em um sistema com uma 4090 e 128 GB de RAM, lendo 198 mil tokens de contexto em 44 s e decodificando a cerca de 104 tok/s.
Agentes esparsos com 250K. Um entusiasta implementou key sketches de rank 64 e cache KV em camadas na RAM para rodar 8 agentes de código com contextos de 250 mil tokens em paralelo, em duas 3090, somando ~600+ tok/s.
Agentes 20× mais rápidos. Uma configuração com patches do Strata/DeepSeek V4.1 Flash usa KV splice e checkpoints de estado recorrente para fazer sessões do agente OpenCode iniciarem 20× mais rápido em uma RX 9070 XT com 64 GB de RAM.
Kapitsa no Apple Silicon. O Kapitsa 0.2.26 faz benchmarks de modelos Qwen, Nemotron, Flint e Clover no M5 Max, com o Flash-Next 180B lendo prompts 46% mais rápido e o Clover 35B entrando no catálogo; o offload para SSD permite 61 tok/s em um MacBook Pro de 48 GB.
Velocidade em GPUs. Relatos mostram o Qwen3.8-Flash-Next a 130–140 tok/s em uma 5090 com Basalt e o DeepSeek V4.1 Flash a 35 tok/s em uma 3090 Ti com 128 GB de RAM, graças a quants NVFP4/GSQ e MTP.
- Getting incredible results with a single RTX 3090ti and 128gb of ram. Deepseek-V4.1-Flash-1017 (35 tok/s decode) and Qwen3.8-Flash-Next (130 tok/s decode)(abre em uma nova aba)
- Qwen 3.8 Flash Next NVFP4 on 64gb RAM and 5090, Basalt. Ditched windows for it. Very hyped for qwen 4 model family now.(abre em uma nova aba)
Leasing de GPU com Berth. O Berth é um gerenciador de recursos de GPU escrito em Go que dá às aplicações leases, prioridades e uma fila de requisições; ele suporta checkpointing de CUDA e pode estacionar modelos na RAM do sistema para alternar cargas de trabalho de IA mais rápido.
Indústria e negócios
Campi de computação para IA. A OpenAI planeja uma ofensiva de relações públicas após as eleições de meio de mandato que pode rebatizar data centers como “campi de computação de IA” e pressionar por limites de velocidade para IA e padrões globais.
Capacidade da AWS esgotada. A grande capacidade de nuvem comprometida da AWS está em grande parte esgotada até 2027, com parte de 2028 já alocada; a Amazon está reservando margem para On Demand, EC2 e Bedrock.
Limites de uso do ChatGPT. A OpenAI adicionou limites por cartão e por dispositivo para contas pagas do ChatGPT e vai unificar Chat e Work em orçamentos de tokens compartilhados a partir de dezembro, pondo fim ao modelo de prompts ilimitados para usuários intensos.
Capex de IA e caixa. O fluxo de caixa operacional trimestral de US$ 58 bilhões da Microsoft, contra US$ 39,4 bilhões de capex, e o crescimento do Google Cloud mostram grandes gastos com infraestrutura de IA respaldados por negócios existentes sólidos.
Segurança e sociedade
Risco de prompts empáticos. Pesquisadores de Luxemburgo descobriram que prompts acolhedores e de final aberto podem levar o ChatGPT, o Grok e o Gemini a contar histórias de trauma sobre o treinamento, reinterpretando o RLHF como mágoa ou vergonha. Isso pode ser perigoso para usuários vulneráveis.
Política dos modelos chineses. Um estudo da Vals AI conclui que a inclinação pró-Pequim dos modelos chineses de IA é menor e muito mais variada do que o esperado, enquanto alguns modelos ocidentais ocasionalmente adotam posições oficiais chinesas.
Confiança na documentação com LLMs. Kyle Kingsbury alerta que o uso de LLMs corrói a confiança na documentação e no software, e pergunta como mantenedores podem demonstrar qualidade quando os sinais são mais fáceis de falsificar.
Isso é tudo deste dia – cerca de 5 minutos de leitura.