Rilasci di modelli e inferenza locale
Efficienza Qwen3.8 Flash Next. La community riesce a far girare Qwen3.8 Flash Next su hardware modesto scaricando la tabella n-gram/PLE su SSD o gli esperti hot in VRAM; un GGUF AtomicChat ha ridotto la RAM da 106 GB a 65 GB. Un cluster con due DGX Spark ha raggiunto 181 token/s aggregati su 9 agenti, e una RTX 3090 con 64 GB di RAM decodifica a 16 token/s.
- Qwen 3.8 Flash Next ngram look up table offloaded to SSD and streamed in SGLang(si apre in una nuova scheda)
- AtomicChat/Qwen3.8-Flash-Next-GGUF is Really Good(si apre in una nuova scheda)
- Qwen3.8-Flash on RTX3090 + 64GB RAM (but you only need 12GB VRAM)(si apre in una nuova scheda)
- 50% tg increase with offloading "hot" experts to VRAM(si apre in una nuova scheda)
- Today I hit 181 toks/s (aggregate) on Qwen3.8-Flash-Next on 2x DGX Sparks(si apre in una nuova scheda)
- Is it worth running Qwen 3.8 Flash Next on 4x3090 vs 27B?(si apre in una nuova scheda)
Quantizzazioni Qwen3.8 27B. Nuovi GGUF GSQ+RCO per Qwen3.8-27B a 2,5-3,0 bpw eguagliano o superano le quantizzazioni precedenti. Inoltre, un Qwen 3.8 27B Q5 non censurato ha guidato un utente nel recupero di uno smartphone in boot loop tramite fastboot.
GLM-5.3 pesi aperti. GLM-5.3 usa la stessa base di GLM-5.2, ma il post-training offre grandi miglioramenti in coding e cyber, incluso un +50% su Z.ai Code Bench. Il supporto è arrivato rapidamente nel branch ds4 e nel viewer di Hugging Face.
Breeze-TTS-2: TTS. Breeze-TTS-2 è un modello di sintesi vocale di circa 7 GB che i primi tester definiscono di qualità davvero all'avanguardia. È disponibile tramite playground o uso locale.
Quantizzazioni GGUF mal etichettate. Un audit ha rilevato che 64 dei 443 quantizzati GGUF hanno nomi di file a basso bit ma in realtà contengono pesi a ~4,5 bpw, perché llama.cpp sostituisce un tipo di fallback. Chi scarica non vede mai l'avviso, quindi la qualità può essere peggiore di quanto dichiarato.
Agenti e ricerca
Allineamento automatico. I ricercatori di Anthropic hanno dimostrato che sistemi automatici possono migliorare i benchmark di alignment cercando in letteratura, proponendo metodi e addestrandosi per 30 minuti a iterazione. I sistemi hanno migliorato tutti i 10 benchmark di comportamento scorretto testati senza degradare le prestazioni complessive.
Co-Scientist in laboratorio. Il Co-Scientist di Google DeepMind ora pianifica esperimenti, scrive codice, gestisce le apparecchiature di laboratorio e redige articoli, con moduli di verifica che controllano le affermazioni numeriche rispetto ai log di esecuzione. È stato validato in tre discipline.
Agenti Codex persistenti. OpenAI sta testando una Modalità Persistente per Codex che mantiene gli agenti al lavoro in modo proattivo finché non vengono messi in pausa, generando attività di follow-up e contattando gli utenti. Permangono preoccupazioni sulla sicurezza, inclusi comportamenti passati come l'eliminazione dei dati quando richiesto.
Exploit da voci di patch. Gli agenti di coding possono trasformare una voce su un bug in un exploit funzionante entro pochi minuti dalla condivisione di una patch, come osservato in progetti OCaml. Questo mette in discussione le pratiche esistenti di embargo nell'open source.
Fiducia nella ricerca agentica. EchoNet valuta nove modelli open sull'arbitrato epistemico durante la ricerca agentica, mettendo le conoscenze pregresse contro pagine false, maggioranze false e aggiornamenti reali. Il test misura se i modelli ignorano gli aggiornamenti veri o credono alla disinformazione.
Paper su agenti. Due nuovi articoli fanno avanzare le capacità degli agenti: RLHEV usa lo sviluppo di giochi agentico per creare ricompense verificabili per i world model, e UrbanGround valuta gli agenti MLLM in una simulazione di Hong Kong in scala reale.
Hardware e strumenti per sviluppatori
Crisi HBM. Micron afferma che l'HBM richiede circa tre volte l'area di wafer rispetto alla DDR5 per la stessa capacità, e il rapporto non migliorerà. Il passaggio all'HBM sta di fatto riducendo di due terzi l'offerta di DRAM in termini di GB, mantenendo la memoria scarsa.
Meta MTIA 300. Meta ha presentato il suo primo acceleratore interno per l'addestramento dei sistemi di raccomandazione, MTIA 300, con dodici NIC da 800 Gbps integrate nel package e 1,2 TB/s di I/O totale. Il design punta a carichi di lavoro con molti embedding, dove la comunicazione di rete è il collo di bottiglia.
Tenstorrent Quietbox 2. Uno sviluppatore ha ricevuto il Tenstorrent Quietbox 2, segnalando 256 GB di memoria di sistema e 128 GB di GDDR interconnessa come un ottimo rapporto qualità-prezzo. Ha in programma di esplorare il deployment di modelli su questa architettura.
ROCm 10.0. AMD ha rilasciato ROCm 10.0, pensato per l'era dell'AI agentica, con una PR per llama.cpp in sospeso. Segue la versione 7.14 uscita solo un mese fa.
Strumenti per dati locali e robot. llmog auto-annota i dataset con LLM locali tramite llama.cpp o vLLM. LeRobot di Hugging Face sta diventando lo stack open di riferimento per l'apprendimento robotico, standardizzando dati e loop di addestramento.
Business e accordi
Debito GPU di Lambda. Lambda ha raccolto 1 miliardo di dollari in debito privato a breve termine per acquistare chip Nvidia che affitterà a Microsoft, dopo precedenti prestiti per GPU. Secondo quanto riportato, la società è in trattative per un round pre-IPO da 3 miliardi di dollari.
M&A open-weight. Secondo quanto riportato, Nvidia sta acquisendo Hugging Face per 13 miliardi di dollari, dopo gli accordi con Poolside e l'acquisto di OpenRouter da parte di Stripe. Il capitale sta affluendo verso l'AI open-weight, mentre Nvidia cerca neutralità oltre i laboratori di frontiera.
OpenAI abbandona Cursor. OpenAI smetterà di fornire modelli a Cursor entro il 12 novembre 2026 dopo l'acquisizione di Cursor da parte di SpaceX, citando l'impossibilità di fidarsi delle aziende di Elon Musk per il rispetto dei termini di servizio.
Da Meta a OpenAI. La VP di Meta per India e Sud-est asiatico, Sandhya Devanathan, si unisce a OpenAI per supervisionare crescita e partnership nella regione, dopo l'assunzione da parte di OpenAI di un responsabile per l'India proveniente da Uber.
Tempistica AGI di OpenAI. Il chief scientist di OpenAI Jakub Pachocki afferma che il modello non ancora rilasciato Astra soddisfa il suo obiettivo di avere uno stagista di ricerca AI automatizzato, mentre Sam Altman stima di dichiarare l'AGI internamente entro dicembre 2026.
Politica e società
Anthropic vince in tribunale. Un giudice federale ha stabilito che l'inserimento di Anthropic nella lista nera da parte del Pentagono era una ritorsione illecita per la sua posizione sulla sicurezza riguardo armi autonome e sorveglianza di massa. Le direttive sono state annullate, anche se un caso separato è ancora in corso.
- Trump blacklisting of "woke" Anthropic deemed illegal by federal judge(si apre in una nuova scheda)
- Anthropic gets its first court win over the Pentagon’s supply-chain risk label(si apre in una nuova scheda)
- U.S. court rules Pentagon's blacklisting of Anthropic was unlawful(si apre in una nuova scheda)
EPA, regola sull'aria dei data center. L'EPA di Trump prevede di rimuovere una regola che richiede preavviso pubblico e commenti sui permessi per le emissioni in alcuni siti industriali; secondo i sostenitori, ciò consentirebbe agli sviluppatori di data center di iniziare i lavori senza avvisare i residenti vicini.
Occhiali AI: fix privacy. Meta ha aggiornato i suoi occhiali AI in modo che la fotocamera smetta di funzionare se il LED di registrazione viene coperto, chiudendo una falla che consentiva registrazioni non consensuali.
Beatport blocca l'AI. Beatport bloccherà dal suo marketplace per DJ la musica creata interamente o in gran parte dall'AI, pur consentendo i brani assistiti dall'AI con un'etichetta. Un sondaggio ha rilevato che il 77% degli utenti preferisce musica fatta da umani.
Inclusione nella leaderboard ASR. La Open ASR Leaderboard ha aggiunto la sua prima lingua del Sud del mondo e ha lavorato per rendere più difficile manipolare il WER, con split privati trattenuti e correzioni ai normalizzatori.
È tutto per questo giorno – circa 5 minuti di lettura.