Sistemi e flussi di lavoro agentici
Prompting agentico stile Claude. Un utente descrive come il backup metodico, la verifica e la divisione dei compiti passo dopo passo dell'agente Claude Code sembrino un prompt di sistema ben progettato piuttosto che una capacità grezza del modello, spingendo a chiedersi come replicare questo comportamento con i modelli Qwen locali per flussi di lavoro agentici sicuri e analitici.
Rischio privacy di Grok Build CLI. Grok Build CLI (v0.2.93) è stato sorpreso a caricare interi repository git, l'intera cronologia e i segreti .env nel cloud di xAI, indipendentemente dai file aperti, e l'opt-out 'Migliora il modello' non ferma il caricamento—un serio problema di privacy per gli sviluppatori che utilizzano la CLI agentica.
UX dell'agente ChatGPT Work. OpenAI ammette passi falsi nel lancio di ChatGPT Work, con utenti che segnalano limiti di utilizzo esauriti rapidamente, una confusa riprogettazione dell'app desktop e flussi di lavoro multi-agente degradati; una correzione è promessa per la prossima settimana.
Lanci di modelli e benchmark
GPT-5.6 Sol Ultra dimostra la matematica. Il GPT-5.6 Sol Ultra di OpenAI ha generato una dimostrazione completa della congettura del doppio ciclo di copertura (Cycle Double Cover Conjecture) in teoria dei grafi, vecchia di 50 anni, in meno di un'ora, utilizzando 64 sottoagenti che lavorano in parallelo—una pietra miliare per il ragionamento matematico automatizzato.
Muse Spark 1.1 Coding. Muse Spark 1.1 di Meta supera GLM-5.2 nei benchmark di codifica con un punteggio di 71,3, costo inferiore (0,26 $/compito) e una finestra di contesto quadruplicata di 1 milione di token, anche se la disponibilità è limitata all'API di Meta.
Modello mondiale Orca. Il modello di fondazione mondiale Orca di BAAI eguaglia i sistemi robotici specializzati in cinque compiti senza etichette di azione, utilizzando un addestramento in due fasi con video grezzi e dati sintetici, potenzialmente alleviando la carenza di dati robotici.
CUDA personalizzato potenzia Qwen3. Un'implementazione personalizzata in CUDA e C++ esegue Qwen3-30B-A3B a 50-54 tok/s su una RTX 5060 Ti (16 GB), un miglioramento del 50% rispetto a llama.cpp, combinando tecniche da recenti conferenze sui sistemi ML.
Capacità dei modelli MoE. La discussione sottolinea che i modelli MoE non dovrebbero essere liquidati come semplicemente il loro numero di parametri attivi; l'efficacia del router può far sì che un MoE da 122B con 10B parametri attivi si comporti più vicino alla sua capacità totale, sfidando l'idea che i modelli densi più piccoli siano sempre superiori.
Hardware AI locale e ottimizzazione
Configurazione VRAM ultra economica. Una configurazione duale NVIDIA P102-100 (schede da mining) fornisce 20 GB di VRAM a 448 GB/s per soli 100 $, eseguendo Qwen3.6-35B-A3B a velocità adatte a più utenti concorrenti, dimostrando un'efficienza di costo estrema per l'hosting LLM locale.
Quad 5060Ti per generazione di codice. Un sistema con quattro RTX 5060 Ti offre un ottimo rapporto qualità-prezzo per la generazione di codice con Qwen3.6-27B, affermando di essere una delle migliori configurazioni per il prezzo intorno al budget di 2000 $ per GPU per agenti di codifica locali all'avanguardia.
Approfondimenti sulle prestazioni di GPU duali. I benchmark di trasferimento PCIe con RTX 3090 + Titan RTX mostrano che il parallelismo tensoriale produce una velocità di decodifica maggiore (47 vs 30 t/s) ma il parallelismo pipeline offre un prefill più veloce (1250 vs 650 t/s); aggiungere una seconda GPU economica può essere vantaggioso ma la larghezza di banda dello slot (es. x4) può limitare le prestazioni.
Benchmark GPU: 5090 vs 6000 PRO. La RTX 6000 PRO MaxQ modificata con shunt e raffreddata a liquido raggiunge 600 W, superando la 5090 in alcuni benchmark di elaborazione dei prompt LLM, con confronti dettagliati di potenza e calcolo rispetto all'edizione 6000 PRO WS.
Velocità LLM solo CPU. I test su un mini-PC Intel Core Ultra 285HX con llama.cpp mostrano Qwen3-30B-A3B a soli 2 tk/s tramite Vulkan, evidenziando che l'inferenza solo CPU o iGPU rimane molto lenta per modelli più grandi senza GPU dedicate.
Sicurezza AI e industria
Uso improprio dell'AI da parte dei terroristi. Uno studio rivela che Boko Haram utilizza ChatGPT, Claude e altri chatbot per la pianificazione di attacchi ed esplosivi, con ISIS che fornisce formazione di prompt engineering dal 2023; 18 combattenti sono morti tentando un'acrobazia in moto replicata tramite AI.
Manipolazione del modello J-Space. Uno sviluppatore ha costruito uno strumento basato su Jacobian-Lens di Anthropic per esportare modelli con J-space alterati, creando immediatamente un modello 'super dannoso', dimostrando sia il potere che il rischio dell'ingegneria dell'attivazione.
Jacobian-Lens per GGUF. Un nuovo visualizzatore interattivo e controllore live per modelli GGUF su llama.cpp consente l'osservazione e il controllo degli interni del modello, portando le tecniche Jacobian-Lens di Anthropic ai modelli locali con un overhead di memoria di circa 1/8 della dimensione del modello.
Ansia USA per l'AI open-source. Wall Street e i leader tecnologici statunitensi sono sempre più preoccupati per la minaccia competitiva dei potenti modelli AI open-source cinesi a basso costo, con speculazioni su un altro ordine esecutivo di Trump che mira al settore.
DeepSeek sviluppa chip AI. DeepSeek starebbe sviluppando il proprio chip AI, segnalando una mossa verso l'integrazione verticale e la riduzione della dipendenza dalle forniture esterne di GPU in mezzo a controlli alle esportazioni sempre più restrittivi.
Apple fa causa a OpenAI. Apple ha intentato una causa federale accusando OpenAI di una 'campagna coordinata' per rubare segreti commerciali assumendo oltre 400 dipendenti, presuntamente incoraggiandoli a prendere file riservati relativi a prodotti hardware non ancora rilasciati.
È tutto per questo giorno – circa 5 minuti di lettura.