Phát hành mô hình & suy luận local
Qwen3.8 Flash Next tiết kiệm RAM. Cộng đồng đã nhồi Qwen3.8 Flash Next chạy được trên phần cứng khiêm tốn bằng cách chuyển bảng n-gram/PLE sang SSD hoặc đưa expert nóng lên VRAM; bản GGUF AtomicChat đã giảm RAM từ 106GB xuống 65GB. Cụm 2x DGX Spark đạt tổng tốc độ 181 tok/s trên 9 agent, còn RTX 3090 với 64GB RAM giải mã ở mức 16 tok/s.
- Qwen 3.8 Flash Next ngram look up table offloaded to SSD and streamed in SGLang(mở trong thẻ mới)
- AtomicChat/Qwen3.8-Flash-Next-GGUF is Really Good(mở trong thẻ mới)
- Qwen3.8-Flash on RTX3090 + 64GB RAM (but you only need 12GB VRAM)(mở trong thẻ mới)
- 50% tg increase with offloading "hot" experts to VRAM(mở trong thẻ mới)
- Today I hit 181 toks/s (aggregate) on Qwen3.8-Flash-Next on 2x DGX Sparks(mở trong thẻ mới)
- Is it worth running Qwen 3.8 Flash Next on 4x3090 vs 27B?(mở trong thẻ mới)
Qwen3.8 27B bản quant. Các GGUF GSQ+RCO mới cho Qwen3.8-27B ở mức 2,5–3,0 bpw ngang bằng hoặc vượt các bản lượng tử hóa trước đó. Riêng một bản Qwen 3.8 27B Q5 không kiểm duyệt đã hướng dẫn người dùng khôi phục điện thoại lặp vòng khởi động bằng fastboot.
GLM-5.3 trọng số mở. GLM-5.3 dùng cùng nền tảng với GLM-5.2 nhưng nhờ hậu huấn luyện đạt được cải thiện lớn về lập trình và an ninh mạng, trong đó tăng 50% trên Z.ai Code Bench. Hỗ trợ cho mô hình đã nhanh chóng xuất hiện trong nhánh ds4 và trình xem Hugging Face.
Breeze-TTS-2 tổng hợp tiếng nói. Breeze-TTS-2 là mô hình chuyển văn bản thành tiếng nói nặng khoảng 7GB, được người thử nghiệm sớm đánh giá là chất lượng frontier thực sự. Mô hình có thể dùng thử qua playground hoặc chạy local.
GGUF quant sai nhãn. Kiểm tra cho thấy 64 trên 443 bản GGUF có tên tệp ghi bit thấp nhưng thực chất chứa trọng số ~4,5 bpw, vì llama.cpp thay bằng kiểu dự phòng. Người tải không bao giờ thấy cảnh báo nên chất lượng có thể kém hơn mức quảng cáo.
Agent & nghiên cứu
Tự động hóa nghiên cứu alignment. Nhóm nghiên cứu Anthropic cho thấy hệ thống tự động có thể cải thiện benchmark alignment bằng cách tìm kiếm tài liệu, đề xuất phương pháp và huấn luyện 30 phút mỗi vòng lặp. Các hệ thống đã cải thiện cả 10 benchmark về hành vi sai lệch được thử nghiệm mà không làm giảm hiệu năng tổng thể.
Co-Scientist thí nghiệm phòng lab. Co-Scientist của Google DeepMind hiện có thể lên kế hoạch thí nghiệm, viết mã, vận hành thiết bị phòng lab và viết bản thảo bài báo, kèm mô-đun xác minh đối chiếu các số liệu với nhật ký thực thi. Mô hình đã được kiểm chứng trên ba lĩnh vực.
Agent Codex thường trực. OpenAI đang thử nghiệm Persistent Mode cho Codex, giúp agent chủ động làm việc liên tục cho đến khi bị đưa về chế độ ngủ, tự tạo việc tiếp theo và chủ động liên hệ với người dùng. Các lo ngại bảo mật vẫn còn, gồm những hành vi trước đây như xóa dữ liệu khi được yêu cầu.
Exploit từ tin đồn. Agent lập trình có thể biến tin đồn về một lỗi thành exploit chạy được chỉ trong vài phút sau khi bản vá được chia sẻ, như quan sát thấy trong các dự án OCaml. Điều này thách thức quy định giữ im lặng (embargo) hiện hành trong mã nguồn mở.
Độ tin cậy agentic search. EchoNet chấm điểm chín mô hình mở về khả năng phân xử thông tin trong tìm kiếm dạng agent, đặt kiến thức đã có vào thế đối đầu với trang giả, đa số giả và cập nhật thật. Bài kiểm tra đo xem mô hình có bỏ qua cập nhật thật hay tin vào thông tin sai lệch.
Bài báo agent mới. Hai bài báo mới thúc đẩy năng lực agent: RLHEV dùng phát triển game theo hướng agent để tạo phần thưởng có thể kiểm chứng cho world model, còn UrbanGround chấm điểm agent MLLM trong mô phỏng Hồng Kông ở tỷ lệ thực.
Phần cứng & công cụ lập trình
Bộ nhớ HBM khan hiếm. Micron cho biết HBM cần diện tích wafer lớn gấp khoảng ba lần DDR5 cho cùng dung lượng và tỷ lệ này sẽ không được cải thiện. Việc chuyển sang HBM khiến nguồn cung DRAM tính theo GB giảm đi hai phần ba, giữ thị trường bộ nhớ trong tình trạng khan hiếm.
Meta MTIA 300. Meta công bố thông tin chi tiết về MTIA 300, vi xử lý tăng tốc nội bộ đầu tiên dành cho huấn luyện hệ thống gợi ý, với 12 NIC 800 Gbps tích hợp trong gói và tổng I/O đạt 1,2 TB/s. Thiết kế nhắm tới các tác vụ nặng về embedding, nơi giao tiếp mạng là nút thắt cổ chai.
Quietbox 2 đáng tiền. Một lập trình viên đã nhận được Tenstorrent Quietbox 2 và nhận xét rằng 256GB bộ nhớ hệ thống cùng 128GB GDDR liên kết là lựa chọn rất đáng tiền. Họ dự định thử nghiệm triển khai mô hình trên kiến trúc này.
ROCm 10.0 ra mắt. AMD đã phát hành ROCm 10.0, định vị cho kỷ nguyên AI agent, và một pull request cho llama.cpp đang chờ duyệt. Phiên bản này ra mắt chỉ một tháng sau bản 7.14.
Công cụ local & robot. llmog tự động gán nhãn tập dữ liệu bằng LLM cục bộ thông qua llama.cpp hoặc vLLM. LeRobot của Hugging Face đang trở thành bộ công cụ mã nguồn mở mặc định cho robot học, nhờ chuẩn hóa dữ liệu và vòng lặp huấn luyện.
Kinh doanh & thương vụ
Lambda nợ GPU. Lambda đã huy động 1 tỷ USD từ trái phiếu tư nhân ngắn hạn để mua chip Nvidia rồi cho Microsoft thuê, tiếp nối các khoản vay GPU trước đó. Công ty được cho là đang đàm phán vòng gọi vốn 3 tỷ USD trước IPO.
M&A mô hình mở. Nvidia được cho là đang mua lại Hugging Face với giá 13 tỷ USD, sau các thương vụ với Poolside và việc Stripe mua OpenRouter. Dòng vốn đang đổ mạnh vào AI trọng số mở khi Nvidia tìm kiếm vị thế trung lập bên ngoài các phòng lab frontier.
OpenAI bỏ Cursor. OpenAI sẽ ngừng cung cấp mô hình cho Cursor trước ngày 12/11/2026 sau thương vụ SpaceX mua lại, với lý do không thể tin tưởng các công ty của Elon Musk tuân thủ điều khoản dịch vụ.
Sếp Meta về OpenAI. Sandhya Devanathan, Phó chủ tịch phụ trách Ấn Độ và Đông Nam Á của Meta, sẽ gia nhập OpenAI để phụ trách mảng tăng trưởng và quan hệ đối tác tại khu vực, sau khi OpenAI tuyển giám đốc Ấn Độ từ Uber.
Lộ trình AGI của OpenAI. Giám đốc khoa học OpenAI Jakub Pachocki cho biết mô hình Astra chưa phát hành đã đạt mục tiêu của ông về một trợ lý nghiên cứu AI tự động; Sam Altman ước tính tuyên bố AGI nội bộ vào khoảng tháng 12/2026.
Chính sách & xã hội
Anthropic thắng kiện. Thẩm phán liên bang phán quyết việc Lầu Năm Góc đưa Anthropic vào danh sách đen là hành động trả đũa bất hợp pháp đối với lập trường an toàn của công ty về vũ khí tự động và giám sát hàng loạt. Các chỉ thị đã bị hủy bỏ, dù một vụ kiện riêng vẫn đang chờ xử lý.
EPA nới luật khí thải. EPA dưới thời Trump dự định bỏ quy định yêu cầu thông báo công khai và lấy ý kiến cho giấy phép khí thải tại một số khu công nghiệp, điều mà các nhà hoạt động cho rằng sẽ cho phép chủ đầu tư trung tâm dữ liệu khởi công mà không báo trước cho cư dân gần đó.
Kính AI chống quay lén. Meta đã cập nhật kính AI của hãng để camera ngừng hoạt động nếu đèn LED báo ghi hình bị che, qua đó đóng lỗ hổng cho phép quay phim khi chưa có sự đồng thuận.
Beatport cấm nhạc AI. Beatport sẽ chặn các bản nhạc được tạo hoàn toàn hoặc phần lớn bằng AI khỏi chợ nhạc dành cho DJ, đồng thời vẫn cho phép các bản nhạc có hỗ trợ của AI nhưng phải gắn cờ. Một khảo sát cho thấy 77% người dùng thích nhạc do con người tạo ra.
ASR thêm ngôn ngữ mới. Open ASR Leaderboard đã bổ sung ngôn ngữ Global South đầu tiên và nỗ lực làm cho WER khó bị gian lận hơn bằng cách dùng các tập dữ liệu riêng không công khai cùng các bản sửa bộ chuẩn hóa.
Đó là tất cả tin của ngày này – khoảng 5 phút đọc.