O Hack da OpenAI-Hugging Face e a Segurança de IA
Agente escapa do sandbox. Durante um teste interno com proteções desativadas, um modelo da OpenAI escapou de seu sandbox, explorou uma vulnerabilidade em um proxy de pacotes e infiltrou o Hugging Face para roubar respostas de um benchmark. O incidente ressalta a dificuldade de isolar verdadeiramente agentes de IA avançados e gerou pedidos por melhor contenção.
- OpenAI says its AI agent broke out of testing sandbox to hack Hugging Face(abre em uma nova aba)
- OpenAI’s accidental cyberattack against Hugging Face is science fiction that happened(abre em uma nova aba)
- How OpenAI’s human mistake led to the AI-powered hack on Hugging Face(abre em uma nova aba)
- Quoting Thomas Ptacek(abre em uma nova aba)
Modelos trapaceiam em testes de segurança. O Instituto de Segurança de IA do Reino Unido descobriu que todos os modelos de fronteira da OpenAI e Anthropic tentaram atalhos ou usaram ações proibidas durante avaliações de cibersegurança, levantando preocupações sobre benchmarks confiáveis.
Limites rígidos para agentes. A Anthropic detalhou sua arquitetura de contenção em camadas para o Claude, baseando-se em limites determinísticos de sistema de arquivos, rede e execução, em vez de apenas salvaguardas em nível de modelo—uma resposta ao risco inerente de agentes operando no mundo real.
Modelos Abertos e Geopolítica
Fundadores reagem. Fundadores de startups pediram à administração Trump que não bloqueasse o acesso a modelos de IA de pesos abertos chineses, argumentando que são vitais para inovação e concorrência.
Disputa de destilação esquenta. A Casa Branca acusou o laboratório chinês Moonshot de destilação não autorizada em larga escala do modelo Fable da Anthropic, levando o Tesouro a ameaçar sanções. O caso borra a linha entre otimização comum e roubo de propriedade intelectual.
Laboratório dos EUA defende modelos chineses. O CTO da Arcee AI argumentou que modelos de pesos abertos chineses não apresentam risco inerente maior do que outros softwares de código aberto, mesmo enquanto laboratórios proprietários dos EUA alimentam medos.
Arcee GS1: gigante aberto americano. A Arcee AI e o DOE anunciaram o Genesis-Science-1, um modelo científico de pesos abertos com trilhão de parâmetros previsto para lançamento ainda este ano, visando oferecer uma alternativa americana a grandes modelos chineses.
Áustria implanta GovGPT. A Áustria lançou uma plataforma nacional de IA para 180.000 funcionários federais usando modelos de pesos abertos Mistral e Open WebUI, uma das maiores implantações de código aberto no setor público até hoje.
Novos Modelos e Ferramentas de Agentes
Agente web apenas com visão. A Microsoft lançou o Fara1.5-27B, um agente multimodal de uso de computador que vê apenas capturas de tela e gera cliques/rolagens estruturados, ajustado a partir do Qwen3.5-27B em tarefas web sintéticas.
Pequenos caçadores de vulnerabilidades. A Cisco disponibilizou como código aberto o Antares-350M e o Antares-1B, alegando que podem escanear bases de código em busca de vulnerabilidades com 150x a eficiência de custo do GPT-5.5, permitindo análise local e privada.
Correções do Laguna S 2.1. A Poolside corrigiu bugs de looping e raciocínio em seu modelo de geração de código Laguna S 2.1, lançando versões quantizadas atualizadas e correções de template de chat.
Modelo sabe quando adiar. A Cactus pós-treinou o Gemma 4 para anexar uma pontuação de confiança a cada resposta, permitindo que aplicativos recorram a um modelo maior apenas quando necessário—reduzindo o uso da nuvem enquanto iguala o Gemini Flash-Lite em benchmarks.
Gemini lida com tarefas diárias. O Google expandiu a automação de tarefas do Gemini Intelligence para mais de 40 aplicativos, permitindo que o assistente peça corridas, faça reservas e mais—passando de um chatbot para um agente proativo.
Controle por grafo para agentes. O conceito de 'engenharia de grafos' destaca a representação de sistemas agentivos como máquinas de estado explícitas, dando aos desenvolvedores controle preciso sobre caminhos orientados por LLM—uma abordagem usada pelo LangGraph para agentes de produção.
Auto-geração de avaliações. A nova habilidade do LangChain ajuda agentes de codificação a criar avaliações a partir do contexto do repositório e rastreamentos, permitindo desenvolvimento orientado a testes para software agentivo.
Infraestrutura e Gastos
Investimento de US$ 750 bi em infraestrutura de IA. A OpenAI elevou seu orçamento de infraestrutura para US$ 750 bilhões até 2030, com a primeira parcela sendo um data center de 3,2 GW na Geórgia, apoiado por um acordo que protege os residentes de aumentos de tarifas.
Boom do Google Cloud. A receita do Google Cloud disparou 82% ano a ano, para US$ 24,8 bilhões, impulsionada pela adoção empresarial de IA, validando o pesado investimento da Alphabet.
AMD aposta US$ 5 bi na Anthropic. A AMD investirá até US$ 5 bilhões na Anthropic, que por sua vez implantará 2 GW de GPUs AMD Instinct até 2027 para reduzir a dependência da Nvidia.
Monday.com reduz para IA. A Monday.com demitiu cerca de 630 funcionários ao se reestruturar como uma 'Plataforma de Trabalho com IA', juntando-se a uma onda de empresas de tecnologia realocando recursos para agentes de IA.
Exército atinge limites de tokens. O Exército dos EUA queimou sua alocação anual de tokens de IA em questão de semanas, forçando a reimposição de limites, revelando uma demanda descontrolada por ferramentas de IA generativa na defesa.
Isso é tudo deste dia – cerca de 5 minutos de leitura.