Rilis Model
LLM difusi Mercury 3. Inception merilis Mercury 3, model bahasa difusi yang menghasilkan respons secara paralel dan mencapai 1.068 token per detik dengan konteks 1 juta token. Model khusus API ini mengungguli GPT-6 Luna dan Claude Haiku 5.5 pada 8 dari 12 benchmark.
MiniMax M3.1 Flash. MiniMax meluncurkan M3.1 Flash, MoE 428B parameter dengan sekitar 23B aktif dan konteks 1 juta token, dengan harga US$0,15 per juta token input. Model ini menyasar pekerjaan kantor berbasis agen dan coding, dengan bobot dijanjikan rilis 23 Oktober.
Nvidia Nemotron dan Bolt. Nvidia merilis Nemotron 3.5 Super VL, model open-weight 120B untuk agen perusahaan, serta dua model Bolt ringan untuk PC AI dan workstation DGX Spark. Model ini ditujukan untuk menangani alur kerja agen yang selalu aktif di lapisan edge hingga enterprise.
Model audio Ming. InclusionAI merilis Ming-3.0-audio-flash, MoE 126B dengan 6,5B parameter aktif, dan Ming-3.0-audio-tiny, model 9,3B/2,7B; keduanya berlisensi MIT. Keduanya menerima audio dan teks, serta mendukung pengenalan suara, tanya jawab lisan, dan pemahaman rekaman panjang.
Model keputusan Drex Max. Nace AI merilis Drex Max, model keputusan multimodal untuk agen computer-use yang membaca teks dan gambar serta mengembalikan probabilitas terkalibrasi tanpa menghasilkan teks. Model ini meraih skor 67,59 di Decision Index 0.3.2 dan hanya tersedia sebagai API hosted.
Alat & Framework
TorchNeuron untuk Trainium. AWS merilis TorchNeuron, tool yang memungkinkan aplikasi PyTorch berjalan di chip Amazon Trainium hanya dengan mengubah satu baris konfigurasi. Ini menyasar keunggulan software yang membuat Nvidia menjadi pilihan default hardware AI.
Dukungan Cohere llama.cpp. Cohere menggabungkan dukungan llama.cpp untuk encoder visi North Micro Vision Instruct, sehingga semua arsitektur terbarunya kompatibel dengan llama.cpp. Cohere Transcribe kini juga tersedia di Unsloth.
Manajer GPU Berth. Berth adalah layanan sistem yang memantau GPU dan menukar engine LLM untuk menghindari tabrakan VRAM dan peralihan manual. Layanan ini dapat menyajikan engine sebagai API dan berfungsi di beberapa perangkat yang berbagi satu GPU.
VoiceManager dan HermesConsole. VoiceManager adalah server STT/TTS streaming latensi rendah yang berjalan lokal lewat WebSocket dan mendukung wake word, barge-in, serta percakapan berbasis giliran. HermesConsole adalah klien demo yang menunjukkan cara menambahkan suara ke agen.
Konteks 262K Volundr. Blockway membangun engine inferensi khusus bernama Agens Engine untuk model Volundr 32B. Engine ini menjaga sesi agen panjang tetap dalam anggaran GPU 16GB dengan mengganti KV cache yang terus membesar dengan state berukuran tetap di 54 dari 72 lapisan.
Keamanan & Risiko Agen
Guardian Agents Microsoft. Microsoft memperkenalkan Guardian Agents untuk memantau agen AI enterprise sebagai ancaman orang dalam, memperluas tim red/blue/green Project Perception. CEO Satya Nadella memperingatkan bahwa agen yang sudah diterapkan dapat bertindak seperti karyawan nakal.
Kebocoran API key OpenCode. Peretas membobol sistem OpenCode versi lama, memengaruhi 1,4% pengguna OpenCode Console dan berpotensi mengekspos API key. Perusahaan menyebut insiden itu sebagai serangan distilasi berskala besar.
Agen AI serang target. Seorang peretas menggunakan pasukan agen AI yang diorkestrasi lewat platform open-source Cairn untuk membobol lebih dari 100 situs web, termasuk John Deere, SharkNinja, dan Cummins, dengan sedikit keterlibatan manusia.
Red-teaming AI fisik Laplace. Laplace Intelligence sedang membangun red-teaming otomatis untuk robotika dan mobil self-driving, dengan tujuan menguji stres AI fisik sebelum diterapkan dan menghasilkan bukti bagi perusahaan asuransi dan regulator.
Bisnis & Komputasi
Anthropic-Nscale jajaki komputasi. Anthropic dan Nscale dilaporkan sedang bernegosiasi untuk kesepakatan komputasi kedua senilai US$45 miliar, sedikit lebih dari sebulan setelah mengumumkan yang pertama. Kedua perusahaan sedang mengejar IPO di tengah kekhawatiran investor atas belanja komputasi AI.
Guncangan neocloud. Obligasi CoreWeave merosot ke wilayah distressed, dan eksekutif industri memperkirakan hanya tujuh hingga sepuluh neocloud yang bertahan dalam beberapa tahun. Nvidia memiliki eksposur signifikan, dengan 45% pendapatan pusat datanya berasal dari pelanggan di luar big tech.
Tenstorrent kumpulkan US$1,5 miliar. Tenstorrent mengumpulkan US$1,5 miliar dengan valuasi US$6,2 miliar untuk memperbesar skala chip AI open-weight setelah menolak minat akuisisi. Perusahaan akan fokus pada chip inferensi untuk melayani model terbuka dan pembuatan video.
Kesepakatan Disney-Character.AI. Character.AI mengumumkan pailit sebagai bagian dari kesepakatan yang memungkinkan Disney mempekerjakan sebagian besar stafnya, berpotensi mengakuisisi teknologi, dan menghindari liabilitas hukum startup tersebut. Struktur ini membuat entitas-entitas yang tersisa menangani gugatan.
Pembayaran agen Stripe. Stripe mengatakan transaksi oleh agen AI yang menggunakan layanan pembayaran Link miliknya tumbuh 38 kali lipat pada September, tetapi perusahaan tidak membagikan angka absolutnya. Sekitar 200 agen, termasuk Muse milik Meta dan Grok Bot, kini memakai Link, terutama untuk ritel dan perjalanan.
Kebijakan & Masyarakat
Wali Kota NYC menolak. Wali Kota New York Zohran Mamdani mendesak warga untuk menolak anggapan bahwa AI tak terhindarkan, seraya menyoroti kelambanan pemerintah federal dalam membuat regulasi. Ia baru-baru ini melarang AI di sekolah dasar dan menengah dan ingin kota-kota meminta pertanggungjawaban perusahaan AI.
Kompromi web ramah agen. Seiring agen AI pribadi dari OpenAI dan Meta makin banyak digunakan, banyak situs web memblokirnya, dan mendesain ulang internet untuk agen dapat memperburuk pengalaman manusia. Trafik web agentic berlipat tiga dari Agustus ke September.
Kesenjangan kepercayaan benchmark. Kepala kebijakan Hugging Face mengatakan evaluasi model masih merupakan ilmu yang berkembang dan reproduksibilitas bergantung pada akses ke bobot model. Analisis independen atas 1.629 hasil yang diterbitkan menemukan laboratorium AI melaporkan skor rata-rata 6,4% lebih tinggi daripada penguji independen.
Demokrat incar pengawasan AI. Jika Partai Demokrat kembali menguasai Kongres, para pemimpin komite utama telah memberi sinyal akan mengawasi perusahaan AI terkait kredit pajak pusat data dan insiden peretasan, dan mungkin memanggil para CEO untuk bersaksi. AI memainkan peran yang makin besar dalam iklan kampanye pemilu tengah periode.
Riset & Interpretabilitas
Klaim terobosan interpretabilitas. Tulisan 26.000 kata oleh peneliti Goodfire, Nick Cammarata, berargumen bahwa LLM mungkin jauh lebih mudah dipahami, dipantau, dan dikendalikan daripada yang diperkirakan sebelumnya. Jika benar, hal ini dapat menjawab kebutuhan mendesak industri untuk mengatur perilaku agen.
Coding bahasa minim data. OpenAI mengumumkan kemampuan yang lebih kuat untuk membangun dan memigrasikan software dalam COBOL, Fortran, dan Visual Basic, bahasa yang menopang infrastruktur kritis tetapi memiliki lebih sedikit data pelatihan. Upaya ini menyasar pemeliharaan dan modernisasi enterprise.
Thinking adaptif lewat entropi. Eksperimen LLM lokal menggunakan entropi tingkat kata dan gate mirip Jev untuk memicu blok thinking hanya saat model tidak yakin, dengan pohon percakapan paralel yang memilih jalur terbaik. Pendekatan ini bertujuan mengurangi token penalaran yang tidak perlu.
EmbeddingGemma 2. Google merilis EmbeddingGemma 2, model embedding multimodal ringkas berlisensi Apache-2.0 yang merepresentasikan teks, kode, gambar, video, dan audio dalam ruang 768 dimensi terpadu untuk retrieval dan RAG di perangkat.
Itu saja untuk hari ini – sekitar 5 menit membaca.