DeepSeek V4 Flash Chega Localmente: Velocidades, Quantizações e Peculiaridades de Agentes
Inteligência no mesmo nível de março de 2026. O DeepSeek V4 Flash (0731) alcança uma pontuação de índice de inteligência de 50, quase igualando o 51 dos modelos de fronteira de cinco meses atrás. Em hardware de consumo, ele roda a velocidades utilizáveis: 44 t/s em uma RTX PRO 6000 eGPU, 15 t/s em três MI50s, e até 4,5 t/s em duas RTX 3060s com offloading de RAM, graças à quantização inteligente e ao offloading parcial.
- DeepSeek-V4-Flash-0731: Models you can run locally now have the intelligence score of the top frontier model from March 2026(abre em uma nova aba)
- DeepSeek-V4-Flash-0731 on Bosgame M5 with RTX PRO 6000 Max-Q eGPU(abre em uma nova aba)
- Ran DS V4-Flash-0731 Locally on 3xMI50 32GB @ ~15 t/s TG(abre em uma nova aba)
- DeepSeek V4 Flash 0731 IQ2_M benchmark for Dual 3060 and 96GB RAM ≈ 3.5 tok/s.(abre em uma nova aba)
Chamada de ferramentas corrigida, seguir regras ainda instável. Após relatos da comunidade sobre chamadas de ferramentas quebradas, uma correção no llama.cpp foi mesclada, e soluções alternativas para o Unsloth Studio foram compartilhadas. No entanto, os usuários descobrem que o modelo frequentemente ignora prompts de sistema e habilidades, armazenando-os como resumos compactados em vez de aderir estritamente, o que prejudica sua confiabilidade para tarefas de agente que exigem seguir instruções precisas.
Avaliação de Agentes e Benchmarks
Benchmarks da comunidade para agentes Hermes. Usuários do LocalLLaMA discutem os melhores benchmarks para avaliar modelos capazes de atuar como agentes, como o Hermes, com muitos sentindo que leaderboards estabelecidos como o SWE-bench não se aplicam aos seus fluxos de trabalho de assistente doméstico ou processamento de documentos.
Leaderboards focados apenas em codificação são criticados. Um pedido por benchmarks mais diversos argumenta que os leaderboards recentes focam desproporcionalmente em tarefas de codificação, deixando aprendizado de idiomas, escrita criativa e raciocínio STEM sub-representados, dificultando avaliar o desempenho dos modelos para casos de uso de agentes não relacionados a codificação.
Kit de benchmark caseiro específico para domínios. Um usuário do Reddit construiu uma coleção de mais de 30 pequenos testes específicos de domínio (ex.: senso comum, simulação de lavagem de carros) e uma ferramenta web para comparar respostas de modelos, visando preencher a lacuna entre benchmarks amplos e casos de uso pessoais.
Pesquisa em IA e Agentes de Codificação
Astra resolve problemas de matemática de uma década. A próxima família de modelos da OpenAI, Astra, resolveu dez problemas anteriormente em aberto em matemática e ciência da computação teórica, com provas formais em Lean e um custo de menos de US$ 2.000 por solução. Os resultados abrangem geometria, teoria de codificação e complexidade quântica, e já inspiraram mais pesquisas humanas.
Agentes de codificação revitalizam software de pesquisa antigo. Um estudo de campo com a OpenAI e parceiros acadêmicos mostra que agentes de codificação de IA como GPT-5.5 e Claude Code podem modernizar software científico frágil, alcançando acelerações de mais de 60 vezes em alguns casos, mas o trabalho transfere o ônus para verificar a correção — os agentes não podem julgar a ciência.
Política e Segurança para Sistemas de Agentes
Verme de injeção de prompts autopropagante ataca o Copilot. Um pesquisador de segurança demonstrou um verme que usa texto oculto branco sobre branco em documentos do Word para injetar instruções maliciosas no Microsoft Copilot, que então copia a carga para novos arquivos. A Microsoft confirmou o comportamento, mas não o corrigiu após 144 dias.
Obrigação de rotulagem da Lei de IA da UE começa. A partir de 2 de agosto de 2026, a UE exige que imagens, vídeos, áudios e textos gerados por IA sejam claramente rotulados. A regulamentação pode impactar agentes que publicam conteúdo ou criam mídia de forma autônoma.
A proibição de 'nudify' de Minnesota sobrevive a desafio legal da xAI. Um juiz federal recusou a tentativa da xAI de bloquear temporariamente a lei de Minnesota contra aplicativos que geram imagens explícitas sem consentimento, observando que a xAI esperou três meses para processar. A lei entra em vigor enquanto o processo continua.
Novos Modelos e Inferência Extrema
Kimi K3 roda em uma única CPU, lentamente. Dois desenvolvedores escreveram independentemente motores de inferência mínimos em C para rodar o modelo MoE de 1,56 TB Kimi K3 em disco, sem GPUs. Um alcançou um token a cada 30 segundos usando 8 GB de RAM e streaming NVMe; outro obteve 0,5 t/s com 29 GB de RAM, todos os especialistas lidos sob demanda.
LongCat-Flash-Lite-Sparse agora disponível. Este novo lançamento substitui a atenção densa pela LongCat Sparse Attention (LSA) e suporta nativamente até 1 milhão de tokens de contexto, tornando-o adequado para tarefas de agentes com documentos longos.
Laguna S 2.1 atualiza contexto e quantização. A Poolside lançou novos checkpoints FP8 e NVFP4 para o Laguna S 2.1, aumentando o tamanho do contexto padrão para 1M de tokens e esperando corrigir um problema de looping que atrapalhava os fluxos de trabalho de desenvolvimento.
Isso é tudo deste dia – cerca de 5 minutos de leitura.