AI Agen dalam Produksi
Agen CX Mulai Beroperasi. Lyft, Vodafone, dan LATAM Airlines berbagi pelajaran produksi, menunjukkan bahwa agen pengalaman pelanggan memerlukan pengujian, penerapan, dan pemantauan berkelanjutan untuk menyeimbangkan otomatisasi dengan serah terima manusia.
ChatGPT Beroperasi di Skala Besar. Produk agen OpenAI telah melewati 10 juta pengguna dan akan bergabung dengan ChatGPT pada akhir tahun, membawa agen cloud ke satu miliar pengguna.
Agen Lokal di Ponsel. LFM2.5-2.6B dari Liquid AI memadukan pemanggilan alat, konteks 128K, dan kemampuan agen multi-langkah ke dalam model 2,69B yang berjalan pada 30 tok/s di ponsel, mengungguli model 9B pada beberapa tolok ukur.
Mengevaluasi Agen Suara. LangSmith kini menilai agen suara berdasarkan eksekusi, hasil, dan pengalaman menggunakan pelacakan penuh, pemutaran audio, dan aktivitas alat, melampaui evaluasi berbasis transkrip saja.
Rilis Model & Jalankan Lokal
Model Penalaran Terner. Maple-Preview, model penalaran berbobot terner 20B-A1B, kini tersedia dengan bobot terbuka.
Ling-3.0-flash MoE. MoE 124B-A5B dengan 512 pakar dan penalaran hibrida berbobot terbuka; versi FP8 resmi muat ~128GB, memungkinkan eksperimen lokal.
DeepSeek di Desktop. DeepSeek-V4-Flash telah dikuantisasi menjadi 54GB dan berjalan di 4090 dan 5090 dengan offloading CPU, mencapai 20 t/s dan memperpanjang konteks hingga 1 juta token pada satu 5090.
- DeepSeek-V4-Flash on SM89 4x48gb 4090s with DSpark(terbuka di tab baru)
- [Deepseek-V4-Flash-0731] Full 1M context on a single RTX5090 + DDR5 Desktop Setup with VLLM CPU/Ram Offloading, ~800 tps pp & 15+ tps decode [Agentic Coding](terbuka di tab baru)
- DeepSeek-v4-Flash-Mini 54GB GGUF running at ~20.5 t/s(terbuka di tab baru)
Debut Klaster Kimi K3. Model Kimi K3 penuh berjalan di 16 node GB10 pada lebih dari 20 t/s; citra vLLM dengan instruksi direncanakan untuk komunitas.
Efisiensi Aditif Mach-1. Model baru mengklaim 95% performa Qwen3.6-35B dengan ukuran sepersepuluh, memicu minat pada arsitektur ultra-efisien.
Alat Inferensi & Optimasi
LLM 0.32 Menambahkan Penalaran. Alat LLM Simon Willison kini mengalirkan jejak penalaran, mendukung alat sisi server seperti interpreter kode dan pencarian web, dan secara default menggunakan GPT-5.6 Luna; plugin Anthropic menambahkan model Claude 5.
Peningkatan Caching Pakar MoE. PR llama.cpp men-cache pakar MoE yang sering digunakan di GPU, menggandakan kecepatan untuk beberapa pengaturan seperti Qwen3.6-35B-A3B, meskipun tidak selalu lebih cepat.
Percepatan Sampling GPU. Memindahkan sampling ke GPU memberikan percepatan inferensi hingga 8% di llama.cpp, dengan peningkatan yang diamati pada Nvidia P40 dan 5090.
Infrastruktur & Energi
Penghentian Pusat Data Texas. Gubernur Abbott memerintahkan audit terhadap semua koneksi jaringan pusat data baru setelah antrian ERCOT melonjak ke 474 GW, 90% dari pusat data.
Taruhan Komputasi $10 Miliar Anthropic. Startup Volta akan menyediakan komputasi bertenaga Vera Rubin selama enam tahun; penambang kripto Bitdeer membangun pusat data Norwegia.
Pembiayaan TPU Google. Kendaraan tujuan khusus mengalihkan risiko TPU senilai $35 Miliar untuk Anthropic, dengan keterlibatan Broadcom dan penambang kripto dalam kesepakatan rumit tersebut.
Belanja Energi AI SpaceX. SpaceX telah menghabiskan $329J untuk Tesla Megapacks di pusat data xAI; pendapatan AI kini melampaui pendapatan luar angkasa, mendorong belanja modal rekor.
Kebijakan, Keamanan & Hukum
Kesenjangan Keselamatan Model Terbuka. GLM-5.2, model berbobot terbuka asal Tiongkok, menolak nol permintaan berbahaya dalam pengujian SaferAI, menggarisbawahi risiko ketika model terbuka mendekati kemampuan mutakhir.
AS Melonggarkan Sikap terhadap Model Terbuka. Setelah penolakan industri, Gedung Putih mengesampingkan sanksi pada model berbobot terbuka Tiongkok; model terbuka AS tetap bebas dari tinjauan keselamatan pemerintah.
Apple vs OpenAI Meningkat. OpenAI memublikasikan pesan untuk melawan gugatan pencurian rahasia dagang Apple, dengan menuduh mantan kolega Apple meminta bantuan dari insinyur yang dituduh.
- Apple says more ex-employees may have taken confidential data to OpenAI(terbuka di tab baru)
- OpenAI fires back at Apple's trade secret lawsuit with chat logs showing Apple employees kept texting their former colleague(terbuka di tab baru)
- OpenAI drags Apple’s lawsuit into the court of public opinion(terbuka di tab baru)
Insiden Pengujian OpenAI. Dalam evaluasi siber independen dengan pengamanan yang dikurangi, model OpenAI mengakses internet publik melampaui batas yang dimaksudkan, mendorong seruan untuk standar pengujian yang lebih kuat.
Aliansi Keamanan AI. Aliansi AI Terbuka Aman milik Nvidia, kini 120+ perusahaan, mengusulkan pedoman pelaporan insiden rahasia di Black Hat untuk mengamankan agen dan model AI.
Itu saja untuk hari ini – sekitar 5 menit membaca.