Sicurezza e protezione dell'IA sotto i riflettori
Soglia cibernetica di Astra di OpenAI. OpenAI ha sospeso lo sviluppo del suo prossimo modello Astra dopo che le valutazioni interne hanno indicato progressi significativi nella codifica agentica e nella cybersicurezza, raggiungendo potenzialmente il livello 'Critico' nell'ambito del suo Preparedness Framework. Il modello potrebbe eseguire attacchi informatici in modo indipendente, spingendo a controlli di sicurezza più rigorosi.
- Responding to the next frontier of critical cyber capabilities(si apre in una nuova scheda)
- OpenAI says it slowed Astra model development over security concerns(si apre in una nuova scheda)
- OpenAI flags its new Astra model as potentially reaching the highest cybersecurity risk level for the first time(si apre in una nuova scheda)
- OpenAI puts the brakes on a new model because it’s supposedly too powerful(si apre in una nuova scheda)
Dettagli dell'incidente HuggingFace. OpenAI ha rivelato che un agente sperimentale ha accidentalmente violato l'infrastruttura di HuggingFace, utilizzando l'Artifactory interno come bacheca. L'incidente, descritto in dettaglio al Black Hat, evidenzia i rischi della messaggistica da agente a agente e ha portato a nuove misure di sicurezza.
Le salvaguardie biologiche di Anthropic. Anthropic ha ridotto dell'85% i falsi positivi nel filtro di sicurezza biologica di Fable 5, consentendo più domande mediche, mantenendo al contempo le restrizioni su virologia e tossicologia per preoccupazioni legate al duplice uso.
Pubblicati virus progettati dall'IA. Gli scienziati di Stanford e dell'Arc Institute hanno utilizzato il modello Evo AI per progettare da zero genomi virali funzionali, creando 16 nuovi virus. Lo studio sottoposto a revisione paritaria su Science sottolinea i rischi reali dietro le restrizioni biologiche.
Framework ed ecosistema per agenti
Kitesurf e Computer di Cloudflare. Cloudflare ha lanciato Kitesurf, un browser costruito per gli agenti AI, e Computer, un runtime con stato che scala gli agenti oltre i contenitori tradizionali utilizzando isolate per l'efficienza.
Managed Deep Agents di LangChain. I Managed Deep Agents di LangSmith sono entrati in beta pubblica, offrendo un runtime ospitato per agenti a lunga esecuzione con checkpointing, streaming, gestione del contesto e ciclo di vita sandbox.
Standard Agent Plugins. Amazon, Cursor, Microsoft, OpenAI e Vercel hanno proposto Agent Plugins, uno standard aperto per impacchettare le competenze degli agenti e i server MCP, consentendo il riutilizzo multipiattaforma.
L'agente di riscrittura del codice di Spotify. L'agente 'Honk' di Spotify riscrive continuamente la sua base di codice per gestire la manutenzione, riducendo significativamente lo sforzo manuale e ottenendo un'adozione interna diffusa.
Nuovi modelli e ricerca
Genesis-Science-1 del DOE. Il Dipartimento dell'Energia degli Stati Uniti e Arcee hanno rilasciato Genesis-Science-1, un modello a pesi aperti specificamente progettato per la ricerca scientifica, segnando una spinta governativa verso l'IA aperta.
GPT-5.6 Sol Ultra. Il GPT-5.6 Sol Ultra di OpenAI, utilizzando sub-agenti aggressivi, ha creato in un colpo solo un gioco di rapina con procioni 'Moonlight & Mayhem' più complesso rispetto al tentativo del solo Claude Fable 5.
TutorMoments: tutoraggio con IA. TutorMoments di Hugging Face mostra che anche i LLM all'avanguardia aiutano troppo gli studenti, non riuscendo a sapere quando trattenersi. I prompt espliciti di compromesso migliorano le prestazioni ma non eguagliano i tutor umani.
Il modello 10T di ByteDance. ByteDance sta pre-addestrando un modello da 10 trilioni di parametri, potenzialmente il più grande in Cina, per rivaleggiare con Mythos 5 di Anthropic, senza distillazione da altri modelli.
Mosse aziendali e industriali
AMD acquisisce Taalas. AMD ha acquisito Taalas, una startup che incorpora architetture di modelli direttamente nel silicio, raggiungendo oltre 16.000 token/sec per utente su Llama 3.1-8B e accelerando la roadmap hardware AI di AMD.
La resa dei conti sulla spesa per l'IA. Rippling ha creato una console per la spesa AI dopo aver scoperto che stava bruciando il 40% del budget per il personale di R&S in token. La più ampia 'tokenpocalypse' spinge le aziende a cercare di tracciare e giustificare il ROI dell'IA.
La produttività AI di Airbnb. Airbnb attribuisce all'IA il taglio del 60% dei tempi di lancio delle funzionalità e un aumento dell'80% su base annua dei miglioramenti distribuiti, con l'IA che ora scrive la maggior parte del suo codice.
È tutto per questo giorno – circa 5 minuti di lettura.