Ra mắt mô hình
LLM khuếch tán Mercury 3. Inception ra mắt Mercury 3, mô hình ngôn ngữ khuếch tán tạo phản hồi song song, đạt 1.068 token/giây với ngữ cảnh 1 triệu token. Mô hình chỉ cung cấp qua API này dẫn trước GPT-6 Luna và Claude Haiku 5.5 trên 8/12 benchmark.
MiniMax M3.1 Flash. MiniMax ra mắt M3.1 Flash, mô hình MoE 428B tham số với khoảng 23B tham số hoạt động và ngữ cảnh 1 triệu token, giá 0,15 USD mỗi triệu token đầu vào. Mô hình nhắm đến công việc văn phòng dùng agent và lập trình, cam kết mở trọng số vào ngày 23/10.
Nemotron và Bolt của Nvidia. Nvidia phát hành Nemotron 3.5 Super VL, mô hình trọng số mở 120B dành cho agent doanh nghiệp, cùng hai mô hình Bolt nhẹ cho PC AI và máy trạm DGX Spark. Các mô hình này nhằm bao phủ quy trình agent luôn bật từ edge đến doanh nghiệp.
Mô hình âm thanh Ming. InclusionAI phát hành Ming-3.0-audio-flash, MoE 126B với 6,5B tham số hoạt động, và Ming-3.0-audio-tiny, mô hình 9,3B/2,7B, cả hai theo giấy phép MIT. Chúng nhận âm thanh và văn bản, hỗ trợ nhận dạng giọng nói, hỏi đáp bằng giọng nói và hiểu bản ghi âm dài.
Mô hình quyết định Drex Max. Nace AI ra mắt Drex Max, mô hình ra quyết định đa phương thức cho agent điều khiển máy tính, đọc văn bản và hình ảnh rồi trả về xác suất đã hiệu chỉnh mà không sinh văn bản. Mô hình đạt 67,59 điểm trên Decision Index 0.3.2 và chỉ cung cấp qua API được host.
Công cụ & framework
TorchNeuron cho Trainium. AWS phát hành TorchNeuron, công cụ cho phép ứng dụng PyTorch chạy trên chip Amazon Trainium chỉ bằng cách đổi một dòng cấu hình. Công cụ này nhắm đến lợi thế phần mềm vốn đưa Nvidia thành lựa chọn phần cứng AI mặc định.
llama.cpp hỗ trợ Cohere. Cohere đã merge hỗ trợ llama.cpp cho bộ mã hóa thị giác North Micro Vision Instruct, giúp mọi kiến trúc mới nhất của hãng tương thích với llama.cpp. Cohere Transcribe hiện cũng đã có trong Unsloth.
Berth quản lý GPU. Berth là dịch vụ hệ thống theo dõi GPU và hoán đổi engine LLM để tránh xung đột VRAM và việc chuyển đổi thủ công. Nó có thể cung cấp engine dưới dạng API và hoạt động trên nhiều thiết bị dùng chung một GPU.
VoiceManager và HermesConsole. VoiceManager là máy chủ STT/TTS streaming độ trễ thấp, chạy cục bộ qua WebSocket và hỗ trợ wake word, barge-in cùng hội thoại theo lượt. HermesConsole là client demo minh họa cách thêm giọng nói vào agent.
Volundr ngữ cảnh 262K. Blockway đã xây dựng engine suy luận tùy chỉnh Agens Engine cho mô hình Volundr 32B, giữ các phiên agent dài trong giới hạn GPU 16GB bằng cách thay KV cache đang tăng dần bằng các trạng thái kích thước cố định ở 54/72 lớp.
Bảo mật & rủi ro agent
Guardian Agents của Microsoft. Microsoft giới thiệu Guardian Agents nhằm giám sát agent AI doanh nghiệp như mối đe dọa nội bộ, mở rộng các đội red/blue/green của Project Perception. CEO Satya Nadella đã cảnh báo rằng agent được triển khai có thể hành xử như nhân viên nổi loạn.
Rò rỉ API key OpenCode. Tin tặc xâm nhập một hệ thống OpenCode cũ, ảnh hưởng đến 1,4% người dùng OpenCode Console và có thể làm lộ API key. Công ty mô tả sự cố là một cuộc tấn công chưng cất quy mô lớn.
Agent AI tấn công mục tiêu. Một tin tặc đã dùng đội quân agent AI được điều phối qua nền tảng mã nguồn mở Cairn để đột nhập hơn 100 website, trong đó có John Deere, SharkNinja và Cummins, với rất ít sự tham gia của con người.
Laplace red-team AI vật lý. Laplace Intelligence đang xây dựng red-team tự động cho robot và xe tự lái, nhằm kiểm thử căng thẳng AI vật lý trước khi triển khai và tạo bằng chứng cho các nhà bảo hiểm và cơ quan quản lý.
Kinh doanh & hạ tầng tính toán
Anthropic-Nscale đàm phán compute. Anthropic và Nscale được cho là đang đàm phán hợp đồng compute thứ hai trị giá 45 tỷ USD, chỉ hơn một tháng sau khi công bố thương vụ đầu tiên. Cả hai công ty đều đang hướng tới IPO trong bối cảnh nhà đầu tư lo ngại về chi tiêu compute cho AI.
Thanh lọc neocloud. Trái phiếu của CoreWeave rơi vào vùng distressed, và lãnh đạo ngành dự đoán chỉ 7 đến 10 neocloud sẽ trụ lại trong vài năm tới. Nvidia có mức độ phơi nhiễm đáng kể, khi 45% doanh thu trung tâm dữ liệu đến từ khách hàng ngoài nhóm big tech.
Tenstorrent huy động 1,5 tỷ USD. Tenstorrent huy động 1,5 tỷ USD với định giá 6,2 tỷ USD để mở rộng quy mô chip AI trọng số mở sau khi từ chối lời mời mua lại. Công ty sẽ tập trung vào chip suy luận phục vụ mô hình mở và tạo video.
Thương vụ Disney-Character.AI. Character.AI tuyên bố phá sản trong một thương vụ cho phép Disney tuyển phần lớn nhân sự, có thể mua lại công nghệ và tránh trách nhiệm pháp lý của startup. Cấu trúc này để các pháp nhân còn lại xử lý các vụ kiện.
Thanh toán agent của Stripe. Stripe cho biết các agent AI dùng dịch vụ thanh toán Link của mình đã tăng số giao dịch gấp 38 lần trong tháng 9, nhưng không tiết lộ con số tuyệt đối. Khoảng 200 agent, trong đó có Muse của Meta và Grok Bot, hiện dùng Link, chủ yếu cho bán lẻ và du lịch.
Chính sách & xã hội
Thị trưởng NYC phản đối. Thị trưởng New York Zohran Mamdani kêu gọi người dân phản đối tâm lý cho rằng AI là điều tất yếu, viện dẫn việc chính quyền liên bang không hành động về quản lý. Ông gần đây đã cấm AI ở trường tiểu học và trung học cơ sở, đồng thời muốn các thành phố buộc công ty AI phải chịu trách nhiệm.
Đánh đổi web thân agent. Khi agent AI cá nhân của OpenAI và Meta mở rộng, nhiều website chặn chúng, và việc thiết kế lại internet cho agent có thể làm trải nghiệm của con người tệ hơn. Lưu lượng truy cập web agentic đã tăng gấp ba từ tháng 8 đến tháng 9.
Khoảng cách tin cậy benchmark. Giám đốc chính sách của Hugging Face cho rằng đánh giá mô hình vẫn là một lĩnh vực khoa học đang hoàn thiện và khả năng tái lập phụ thuộc vào việc tiếp cận trọng số. Một phân tích độc lập trên 1.629 kết quả đã công bố phát hiện các lab AI báo cáo điểm cao hơn trung bình 6,4% so với các bên kiểm thử độc lập.
Đảng Dân chủ nhắm giám sát AI. Nếu đảng Dân chủ giành lại Quốc hội, các lãnh đạo ủy ban hàng đầu đã phát tín hiệu sẽ xem xét kỹ các công ty AI liên quan đến tín dụng thuế trung tâm dữ liệu và các vụ hack, đồng thời có thể triệu tập CEO lên điều trần. AI đang đóng vai trò ngày càng lớn trong quảng cáo chiến dịch bầu cử giữa nhiệm kỳ.
Nghiên cứu & khả năng diễn giải
Tuyên bố đột phá diễn giải. Một bài viết dài 26.000 từ của nhà nghiên cứu Goodfire Nick Cammarata lập luận rằng LLM có thể dễ hiểu, dễ giám sát và dễ kiểm soát hơn nhiều so với nhận định trước đây. Nếu đúng, điều này có thể giải quyết nhu cầu cấp bách của ngành trong việc quản lý hành vi agent.
Lập trình ngôn ngữ ít tài nguyên. OpenAI công bố năng lực mạnh hơn để xây dựng và chuyển đổi phần mềm viết bằng COBOL, Fortran và Visual Basic, những ngôn ngữ hỗ trợ hạ tầng trọng yếu nhưng có ít dữ liệu huấn luyện hơn. Công việc này nhắm đến bảo trì và hiện đại hóa hệ thống doanh nghiệp.
Suy luận thích ứng bằng entropy. Một thử nghiệm với LLM cục bộ dùng entropy ở mức từ và các cổng kiểu Jev để chỉ kích hoạt khối suy luận khi mô hình không chắc chắn, cùng các cây hội thoại song song chọn nhánh tốt nhất. Cách tiếp cận này nhằm giảm số token suy luận không cần thiết.
EmbeddingGemma 2. Google phát hành EmbeddingGemma 2, mô hình embedding đa phương thức nhỏ gọn theo Apache-2.0, biểu diễn văn bản, mã, hình ảnh, video và âm thanh trong không gian 768 chiều thống nhất để truy xuất trên thiết bị và RAG.
Đó là tất cả tin của ngày này – khoảng 5 phút đọc.