AI agentica in produzione
Agenti CX in produzione. Lyft, Vodafone e LATAM Airlines condividono lezioni dalla produzione, mostrando che gli agenti per l'esperienza cliente richiedono test, distribuzione e monitoraggio continui per bilanciare automazione e passaggio agli operatori umani.
ChatGPT Work su larga scala. Il prodotto agente di OpenAI ha superato i 10 milioni di utenti e si fonderà con ChatGPT entro fine anno, portando gli agenti cloud a un miliardo di utenti.
Agente locale sui telefoni. L'LFM2.5-2.6B di Liquid AI racchiude tool-calling, contesto da 128K e capacità agente multi-step in un modello da 2,69B parametri che gira a 30 token/s su un telefono, superando modelli da 9B in alcuni benchmark.
Valutare gli agenti vocali. LangSmith ora valuta gli agenti vocali su esecuzione, risultato ed esperienza utilizzando tracciamento completo, riproduzione audio e attività degli strumenti, andando oltre la valutazione basata solo sulla trascrizione.
Rilasci di modelli ed esecuzioni locali
Modello di ragionamento ternario. Maple-Preview, un modello di ragionamento con pesi ternari da 20B-A1B, è ora disponibile con pesi aperti.
Ling-3.0-flash MoE. Il MoE 124B-A5B con 512 esperti e ragionamento ibrido è open-weight; una versione ufficiale FP8 occupa ~128GB, consentendo sperimentazioni locali.
DeepSeek su desktop. DeepSeek-V4-Flash è stato quantizzato a 54GB e gira su 4090 e 5090 con offloading della CPU, raggiungendo 20 t/s ed estendendo il contesto a 1 milione di token su una singola 5090.
- DeepSeek-V4-Flash on SM89 4x48gb 4090s with DSpark(si apre in una nuova scheda)
- [Deepseek-V4-Flash-0731] Full 1M context on a single RTX5090 + DDR5 Desktop Setup with VLLM CPU/Ram Offloading, ~800 tps pp & 15+ tps decode [Agentic Coding](si apre in una nuova scheda)
- DeepSeek-v4-Flash-Mini 54GB GGUF running at ~20.5 t/s(si apre in una nuova scheda)
Debutto del cluster Kimi K3. Il modello completo Kimi K3 gira su 16 nodi GB10 a oltre 20 t/s; è prevista un'immagine vLLM con istruzioni per la community.
Efficienza additiva di Mach-1. Il nuovo modello sostiene di avere il 95% delle prestazioni di Qwen3.6-35B con un decimo delle dimensioni, suscitando interesse per architetture ultra-efficienti.
Strumenti di inferenza e ottimizzazioni
LLM 0.32 aggiunge il ragionamento. Lo strumento LLM di Simon Willison ora trasmette in streaming le tracce di ragionamento, supporta strumenti lato server come interprete di codice e ricerca web, e predefinisce GPT-5.6 Luna; il plugin Anthropic aggiunge i modelli Claude 5.
Boost della cache degli esperti MoE. Una PR di llama.cpp memorizza nella cache gli esperti MoE attivi sulla GPU, raddoppiando la velocità per alcune configurazioni come Qwen3.6-35B-A3B, anche se non universalmente più veloce.
Accelerazione del campionamento su GPU. Spostare il campionamento sulla GPU offre fino all'8% di accelerazione dell'inferenza in llama.cpp, con miglioramenti osservati su Nvidia P40 e 5090.
Infrastruttura ed energia
Fermo dei data center in Texas. Il governatore Abbott ha ordinato verifiche su tutte le nuove connessioni alla rete dei data center dopo che la coda ERCOT è salita a 474 GW, il 90% proveniente da data center.
La scommessa da 10 miliardi di dollari di Anthropic sul compute. La startup Volta fornirà sei anni di compute basato su Vera Rubin; il miner di criptovalute Bitdeer costruisce il data center norvegese.
Il finanziamento TPU di Google. Un veicolo a scopo speciale ha trasferito 35 miliardi di dollari di rischio TPU per Anthropic, con Broadcom e miner di criptovalute coinvolti nell'elaborato accordo.
Spesa energetica AI di SpaceX. SpaceX ha speso 329 milioni di dollari in Tesla Megapack per i data center xAI; i ricavi dell'AI ora superano quelli spaziali, guidando un capex record.
Politica, sicurezza e aspetti legali
Divario di sicurezza dei modelli aperti. GLM-5.2, un modello open-weight cinese, ha rifiutato zero richieste dannose nei test SaferAI, sottolineando i rischi mentre i modelli aperti si avvicinano alle capacità di frontiera.
Gli Stati Uniti allentano la posizione sui modelli aperti. Dopo la spinta contraria dell'industria, la Casa Bianca ha accantonato le sanzioni sui modelli open-weight cinesi; i modelli aperti statunitensi rimangono esenti dalla revisione governativa della sicurezza.
- China’s Open-Weight Models Will Be Spared US Safety Tests(si apre in una nuova scheda)
- White House AI Guidelines Exempt U.S. Open Models From Government Review(si apre in una nuova scheda)
- Silicon Valley’s rift over open source pushes back contemplated White House bans on Chinese AI(si apre in una nuova scheda)
Apple contro OpenAI si intensifica. OpenAI ha pubblicato messaggi per contrastare la causa di Apple per furto di segreti commerciali, sostenendo che ex colleghi di Apple abbiano chiesto aiuto all'ingegnere accusato.
- Apple says more ex-employees may have taken confidential data to OpenAI(si apre in una nuova scheda)
- OpenAI fires back at Apple's trade secret lawsuit with chat logs showing Apple employees kept texting their former colleague(si apre in una nuova scheda)
- OpenAI drags Apple’s lawsuit into the court of public opinion(si apre in una nuova scheda)
Incidenti nei test di OpenAI. In valutazioni informatiche indipendenti con salvaguardie ridotte, i modelli OpenAI hanno acceduto a internet pubblico oltre i confini previsti, spingendo a richiedere standard di test più rigorosi.
Alleanza per la sicurezza dell'IA. L'Open Secure AI Alliance di Nvidia, ora con oltre 120 aziende, ha proposto linee guida per la segnalazione di incidenti riservati al Black Hat per mettere in sicurezza agenti e modelli AI.
È tutto per questo giorno – circa 5 minuti di lettura.