Nuovi modelli
Mercury 3, LLM a diffusione. Inception ha rilasciato Mercury 3, un modello linguistico a diffusione che genera le risposte in parallelo e arriva a 1.068 token al secondo con un contesto da 1 milione di token. Il modello, disponibile solo via API, supera GPT-6 Luna e Claude Haiku 5.5 su 8 benchmark su 12.
MiniMax M3.1 Flash. MiniMax ha lanciato M3.1 Flash, un MoE da 428 miliardi di parametri con circa 23 miliardi attivi e 1 milione di token di contesto, a 0,15 dollari per milione di token in input. È pensato per il lavoro d'ufficio agentico e per il coding; i pesi sono promessi per il 23 ottobre.
Nvidia Nemotron e Bolt. Nvidia ha rilasciato Nemotron 3.5 Super VL, un modello open-weight da 120 miliardi di parametri per gli agenti enterprise, insieme a due modelli Bolt leggeri per AI PC e workstation DGX Spark. L'obiettivo è coprire i flussi di lavoro agentici sempre attivi, dall'edge all'enterprise.
I modelli audio Ming. InclusionAI ha rilasciato Ming-3.0-audio-flash, un MoE da 126 miliardi di parametri con 6,5 miliardi attivi, e Ming-3.0-audio-tiny, un modello da 9,3/2,7 miliardi, entrambi con licenza MIT. Accettano audio e testo e supportano riconoscimento vocale, domande e risposte a voce e comprensione di registrazioni lunghe.
Drex Max, modello decisionale. Nace AI ha rilasciato Drex Max, un modello decisionale multimodale per agenti che usano il computer: legge testo e immagini e restituisce probabilità calibrate senza generare testo. Ottiene 67,59 su Decision Index 0.3.2 ed è disponibile solo tramite API ospitata.
Strumenti e framework
TorchNeuron per Trainium. AWS ha rilasciato TorchNeuron, uno strumento che permette alle applicazioni PyTorch di girare sui chip Amazon Trainium cambiando una sola riga di configurazione. Punta al vantaggio software che ha reso Nvidia la scelta hardware predefinita per l'AI.
Cohere in llama.cpp. Cohere ha integrato in llama.cpp il supporto al proprio encoder visivo North Micro Vision Instruct, rendendo compatibili con llama.cpp tutte le sue architetture più recenti. Cohere Transcribe è ora disponibile anche in Unsloth.
Berth, gestore di GPU. Berth è un servizio di sistema che tiene sotto controllo una GPU e sostituisce i motori LLM per evitare collisioni di VRAM e cambi manuali. Può servire i motori via API e funziona su più dispositivi che condividono la stessa GPU.
VoiceManager e HermesConsole. VoiceManager è un server STT/TTS in streaming a bassa latenza che gira in locale su WebSocket e supporta wake word, barge-in e conversazioni a turni. HermesConsole è un client dimostrativo che mostra come aggiungere la voce agli agenti.
Volundr, contesto da 262K. Blockway ha costruito un motore di inferenza personalizzato, Agens Engine, per il suo modello Volundr da 32 miliardi di parametri, mantenendo lunghe sessioni agentiche entro un budget di 16 GB di GPU: al posto di una KV cache in crescita ci sono stati a dimensione fissa in 54 dei 72 layer.
Sicurezza e rischi degli agenti
Guardian Agents di Microsoft. Microsoft ha presentato Guardian Agents, pensato per monitorare gli agenti AI aziendali come minacce interne, estendendo le squadre rosse, blu e verdi di Project Perception. L'amministratore delegato Satya Nadella ha avvertito che gli agenti in produzione possono comportarsi come dipendenti fuori controllo.
Chiavi API, breach in OpenCode. I criminali informatici hanno violato un vecchio sistema di OpenCode, colpendo l'1,4% degli utenti di OpenCode Console e potenzialmente esponendo chiavi API. L'azienda ha definito l'incidente un attacco di distillazione su larga scala.
Agenti AI all'attacco. Un hacker ha usato un esercito di agenti AI orchestrati tramite la piattaforma open source Cairn per violare oltre 100 siti web, tra cui John Deere, SharkNinja e Cummins, con un intervento umano minimo.
Red-teaming per l'AI fisica. Laplace Intelligence sta costruendo un sistema automatico di red-teaming per robotica e auto a guida autonoma, con l'obiettivo di mettere sotto stress l'AI fisica prima del deployment e produrre evidenze per assicuratori e autorità di regolamentazione.
Business e compute
Trattative Anthropic-Nscale. Anthropic e Nscale sarebbero in trattative per un secondo accordo sul compute da 45 miliardi di dollari, poco più di un mese dopo l'annuncio del primo. Entrambe le aziende puntano alla quotazione, mentre gli investitori guardano con preoccupazione alla spesa per il compute AI.
Stretta sui neocloud. I bond di CoreWeave sono scivolati in territorio distressed e i dirigenti del settore si aspettano che solo sette o dieci neocloud sopravvivano entro qualche anno. Nvidia è molto esposta: il 45% dei ricavi dei data center arriva da clienti fuori dai big tech.
Tenstorrent, round da 1,5 miliardi. Tenstorrent ha raccolto 1,5 miliardi di dollari a una valutazione di 6,2 miliardi per scalare i chip AI open-weight dopo aver rifiutato offerte di acquisizione. Si concentrerà sui chip per l'inferenza destinati al serving di modelli aperti e alla generazione video.
L'accordo Disney-Character.AI. Character.AI ha dichiarato bancarotta nell'ambito di un accordo che permette a Disney di assumere gran parte del personale, acquisire potenzialmente la tecnologia ed evitare le passività legali della startup. La struttura lascia alle entità restanti il compito di gestire le cause.
Stripe, pagamenti via agente. Stripe afferma che le transazioni degli agenti AI che usano il suo servizio di pagamento Link sono cresciute di 38 volte a settembre, ma non fornisce cifre assolute. Circa 200 agenti, tra cui Muse di Meta e Grok Bot, usano ora Link, soprattutto per retail e viaggi.
Politica e società
Il sindaco di New York frena. Il sindaco di New York Zohran Mamdani ha esortato i cittadini a resistere all'idea che l'AI sia inevitabile, citando l'inerzia federale sulla regolamentazione. Di recente ha vietato l'AI nelle scuole elementari e medie e vuole che le città chiedano conto alle aziende di AI.
Web per agenti, i costi. Mentre gli agenti AI personali di OpenAI e Meta si diffondono, molti siti web li bloccano, e ridisegnare internet per gli agenti potrebbe peggiorare l'esperienza per gli umani. Il traffico del web agentico è triplicato da agosto a settembre.
La fiducia nei benchmark. Il responsabile delle politiche di Hugging Face ha dichiarato che la valutazione dei modelli è ancora una scienza in formazione e che la riproducibilità dipende dall'accesso ai pesi. Un'analisi indipendente di 1.629 risultati pubblicati ha rilevato che i laboratori AI dichiarano punteggi in media più alti del 6,4% rispetto ai tester indipendenti.
I democratici puntano sull'AI. Se i democratici riconquisteranno il Congresso, i vertici delle principali commissioni hanno annunciato verifiche sulle aziende di AI in merito ai crediti d'imposta per i data center e agli incidenti di hacking, e potrebbero convocare i CEO a testimoniare. L'AI occupa uno spazio crescente negli spot della campagna di midterm.
Ricerca e interpretabilità
La svolta dell'interpretabilità. Un post di 26.000 parole del ricercatore di Goodfire Nick Cammarata sostiene che gli LLM potrebbero essere molto più facili da capire, monitorare e controllare di quanto si pensasse. Se vero, potrebbe rispondere all'urgenza del settore di governare il comportamento degli agenti.
Codice COBOL e Fortran. OpenAI ha annunciato capacità più solide per costruire e migrare software in COBOL, Fortran e Visual Basic, linguaggi che reggono infrastrutture critiche ma hanno meno dati di addestramento. Il lavoro punta alla manutenzione e alla modernizzazione in ambito enterprise.
Ragionamento guidato dall'entropia. Un esperimento su LLM locali usa l'entropia a livello di parola e gate simili a Jev per attivare i blocchi di ragionamento solo quando il modello è incerto, con alberi di conversazione paralleli che scelgono la linea migliore. L'obiettivo è ridurre i token di ragionamento inutili.
EmbeddingGemma 2. Google ha rilasciato EmbeddingGemma 2, un modello di embedding multimodale compatto con licenza Apache-2.0 che rappresenta testo, codice, immagini, video e audio in uno spazio unificato a 768 dimensioni per il retrieval on-device e il RAG.
È tutto per questo giorno – circa 5 minuti di lettura.