Mô hình mở & phát hành
JetBrains Mellum2.1 MTP. JetBrains phát hành Mellum2.1-12B-A2.5B-Thinking-MTP, bổ sung một đầu dự đoán đa token đóng vai trò bản nháp speculative. Các engine suy luận kiểm chứng từng token được nháp ra, nhờ đó tốc độ giải mã nhanh gấp 1,4–1,8 lần mà đầu ra không đổi, tỉ lệ chấp nhận bản nháp khoảng 90%.
Mô hình quyết định Drex Max. Nace AI mở mã nguồn Drex Max v1, một mô hình ra quyết định dense 27B với cửa sổ 262K token, chấm điểm tới 255 phương án cho mỗi câu hỏi trong một lượt forward. Mô hình chạy trên GPU NVIDIA hoặc Apple Silicon và đạt 67,52 điểm trên Decision Index 0.4.
Mô hình lập trình 3D. GLB-3D-Coder, một mô hình lập trình 4B mới, viết cảnh Three.js kèm xuất GLB cho các game engine như Godot. Nó tạo được những asset 3D đơn giản như bình mana hay trạm cứu thương từ một câu lệnh tiếng Anh ngắn.
TTS gắn thẻ cảm xúc. Silencio-2 là bản fine-tune mở 18M của Pocket TTS, tuân theo các thẻ cảm xúc và âm thanh nằm ngay trong văn bản như [sigh] hay <angry>. Mô hình chạy nhanh gấp khoảng 20 lần thời gian thực trên CPU, có sẵn trên Hugging Face và một bản demo Colab.
Heretic 2.0 mở rộng steering. Heretic 2.0 mở rộng từ việc gỡ kiểm duyệt sang chỉnh sửa mô hình nói chung bằng Arbitrary-Rank Ablation, nhắm chặn slop, giảm sycophancy và thay đổi căn chỉnh cảm xúc. Dự án báo cáo 37k sao GitHub và 88M lượt tải mô hình.
Hệ thống agent & nghiên cứu
Agent router-worker của DeepSeek. DeepSeek mở mã nguồn dsh-superagent, một coding agent chủ động trên GitHub, biến các yêu cầu được cho phép thành những đầu việc chạy song song, mỗi việc trong một phiên riêng. Trong mô phỏng, một luồng tin nhắn nhiễu hoàn thành tác vụ nhanh gấp 1,9 lần so với baseline một phiên (p95 15,7 so với 29,5 phút).
Nhóm 5 mô hình Memdoor. Memdoor ghép năm mô hình Qwen3.8-27B và vượt Fable 5 trên LiveCodeBench Hard, cho thấy một nhóm agent dùng mô hình mở cỡ nhỏ vẫn đủ sức thi đấu lập trình.
EditAgent chỉnh sửa ảnh. Adobe Research và UC San Diego xây dựng EditAgent, chia việc chỉnh sửa ảnh thành các bước nhỏ rồi dùng một LLM thông thường đánh giá các phương án chạy song song bằng số liệu đo được. Cách này vượt các agent trước đó nhưng cần lượng compute gấp khoảng 10 lần.
StreamVibe trợ lý video. Nhóm nghiên cứu do Google dẫn đầu giới thiệu StreamVibe, một video agent biết quyết định lúc nào nên lên tiếng trong những tác vụ như nấu ăn hay lắp ghép nội thất. Thử nghiệm cho thấy các mô hình hiện tại vẫn lúng túng trước yêu cầu mơ hồ và việc theo dõi những bước đã hoàn thành.
Đồng thiết kế System-1/2. Một bài báo lý thuyết mới lập luận rằng việc mở rộng quy mô AGI có thể hưởng lợi từ một bộ dự đoán System-1 nhẹ, làm cổng chặn các tương tác System-2 đắt đỏ trước khi thực thi. Trong điều kiện sàng lọc lý tưởng, compute thực thi có thể giảm tới 1/ρ_u.
Suy luận cục bộ & phần cứng
tandem.cpp tăng tốc MoE. tandem.cpp là một bộ patch cho llama.cpp, giữ các expert nóng trên GPU và đẩy phần còn lại xuống CPU với mọi mô hình MoE. Trên một 4090 cộng 64GB RAM, Qwen3.8-Flash-Next giải mã đạt 97 tok/s, gấp 3,3 lần llama.cpp.
Engine Qwen3.8 tốc độ cao. Speedy vượt Avalon và Strata ở khâu prefill Qwen3.8-Flash-Next trên hệ thống 4090/128GB: đọc 198K context trong 44 giây và giải mã khoảng 104 tok/s.
8 agent, context 250K. Một người làm dự án cá nhân đã cài đặt key sketch rank-64 và KV cache phân tầng theo RAM để chạy đồng thời 8 coding agent với context 250K token trên hai 3090, tổng cộng khoảng 600+ tok/s.
Agent khởi động nhanh 20 lần. Một thiết lập Strata/DeepSeek V4.1 Flash đã được vá, dùng KV splice và checkpoint trạng thái recurrent để các phiên agent OpenCode khởi động nhanh gấp 20 lần trên RX 9070 XT với 64GB RAM.
Kapitsa trên Apple Silicon. Kapitsa 0.2.26 benchmark các mô hình Qwen, Nemotron, Flint và Clover trên M5 Max: Flash-Next 180B đọc prompt nhanh hơn 46%, Clover 35B gia nhập danh mục, và SSD offloading cho phép đạt 61 tok/s trên MacBook Pro 48GB.
Tốc độ GPU bình dân. Các báo cáo cho thấy Qwen3.8-Flash-Next đạt 130–140 tok/s trên 5090 với Basalt, còn DeepSeek V4.1 Flash đạt 35 tok/s trên 3090 Ti với 128GB RAM, nhờ quant NVFP4/GSQ và MTP.
- Getting incredible results with a single RTX 3090ti and 128gb of ram. Deepseek-V4.1-Flash-1017 (35 tok/s decode) and Qwen3.8-Flash-Next (130 tok/s decode)(mở trong thẻ mới)
- Qwen 3.8 Flash Next NVFP4 on 64gb RAM and 5090, Basalt. Ditched windows for it. Very hyped for qwen 4 model family now.(mở trong thẻ mới)
Berth cho thuê GPU. Berth là trình quản lý tài nguyên GPU viết bằng Go, cấp cho ứng dụng lease, độ ưu tiên và hàng đợi yêu cầu; nó hỗ trợ checkpoint CUDA và có thể tạm gác mô hình trong RAM hệ thống để chuyển tải AI nhanh hơn.
Công nghiệp & kinh doanh
OpenAI đổi tên data center. OpenAI đang lên kế hoạch một chiến dịch PR rầm rộ sau kỳ bầu cử giữa nhiệm kỳ, có thể đổi tên trung tâm dữ liệu thành “AI compute campus” và thúc đẩy giới hạn tốc độ AI cùng các chuẩn toàn cầu.
AWS hết công suất. Phần lớn công suất cloud cam kết lớn của AWS đã bán hết đến năm 2027, một phần của năm 2028 cũng đã được phân bổ; Amazon đang giữ chỗ cho On Demand, EC2 và Bedrock.
Giới hạn dùng ChatGPT. OpenAI bổ sung giới hạn theo thẻ và thiết bị cho các tài khoản ChatGPT trả phí, đồng thời từ tháng 12 sẽ gộp Chat và Work vào chung hạn mức token, chấm dứt kiểu giá hỏi bao nhiêu cũng được dành cho người dùng nặng.
Dòng tiền nuôi capex AI. Dòng tiền hoạt động 58 tỷ USD mỗi quý của Microsoft so với 39,4 tỷ USD capex, cùng đà tăng trưởng của Google Cloud, cho thấy những hóa đơn hạ tầng AI khổng lồ vẫn được chống đỡ bởi các mảng kinh doanh cốt lõi vững mạnh.
An toàn & xã hội
Rủi ro prompt đồng cảm. Các nhà nghiên cứu tại Luxembourg phát hiện những prompt ấm áp và mở có thể khiến ChatGPT, Grok và Gemini kể ra những câu chuyện kiểu chấn thương về quá trình huấn luyện, diễn giải RLHF thành bị tổn thương hay xấu hổ. Điều này có thể nguy hiểm với người dùng dễ bị tổn thương.
Mô hình Trung Quốc và chính trị. Nghiên cứu của Vals AI cho thấy xu hướng thân Bắc Kinh ở các mô hình AI Trung Quốc thấp hơn và đa dạng hơn nhiều so với dự đoán, trong khi một số mô hình phương Tây đôi khi lại theo lập trường chính thức của Trung Quốc.
Niềm tin vào tài liệu LLM. Kyle Kingsbury cảnh báo việc dùng LLM đang bào mòn niềm tin vào tài liệu và phần mềm, đồng thời đặt câu hỏi làm sao maintainer chứng minh được chất lượng khi các tín hiệu ngày càng dễ bị làm giả.
Đó là tất cả tin của ngày này – khoảng 5 phút đọc.