Mô hình mở & Suy luận cục bộ
Qwen 3.8 27B. Qwen 3.8 27B của Alibaba, phát hành theo giấy phép Apache-2, chạy được trên laptop cao cấp và GPU cục bộ; chế độ suy luận xhigh cho kết quả mạnh nhưng dễ overthinking. Các tối ưu hóa từ cộng đồng đẩy tốc độ lên 381 token/giây trên RTX 3090, và các phiên bản lượng tử hóa chạy được trên VRAM 16GB. Mô hình MoE 35B sẽ không được phát hành, nhưng một mô hình trọng số mở cỡ trung mới dự kiến ra mắt tuần tới.
- → Qwen 3.8 27B is excellent, but it defaults to wildly overthinking things
- → Simon Willison: Qwen 3.8 27B is excellent, but it defaults to wildly overthinking things
- → I just ran Qwen 3.8 27 in Q4 against GPT 5.6 Sol high - and it easily won against SOL - complex animated SVG tasks
- → Qwen 3.8 27b vs 3.6 27b - how good is with a Turtle library.
- → Anyone else get a kick out of Qwen 3.8 27B Reasoning Dialogue?
- → Share your favorite thoughts and reasoning from running Qwen 3.8 27b. This is mine.
- → Qwen3.8 27B reasoning effort low/medium/xhigh comparison
- → Qwen 3.8 2.4T at 288k tokens/s on Nvidia GB300 NVL72
- → Newer commits removed the Qwen 35B
- → Qwen 3.8 27b in 24gb of VRAM
- → Qwen3.8-27b on RTX 3090 - 82 tps single request, up to 672 tps peak
- → Qwen3.8-27B Hybrid IQ4_XS quantization for 16GB gang
- → Qwen3.8 27B Q2 vs Q3 vs Qwen3.6 35B-A3B MoE on 12GB VRAM
- → Qwen 3.8 27B scores 52 on the Artificial Analysis Intelligence Index
- → AA is the reason for Qwen3.8 27B shipped with xhigh
- → Artificial Analysis' Qwen3.8-27B benchmarks put it neck and neck with DeepSeek V4 and GPT-5.6 Luna Max
- → Optimizing Qwen3.6 / Qwen3.8-27B on 16GB VRAM: Complete Benchmark Results and Setup Guide (~30-50tps at 32k to 72k context)
- → After pushing 1M+ tokens through Qwen 3.8 27B, here is my optimal llama.cpp config for 16GB VRAM (73k Context, Agentic Coding)
- → Local agentic coding Benchmark : Qwen 3.8 27B (in many weights quants / cache quants / engine / reasoning effort) vs others.
- → Qwen dev says not to wait for 35B-A3B
- → Waiting for Qwen 3.8 35B A3B
- → Qwen 3.8 35bA3b wen?
- → Qwen 3.8 35b and 122b - We hope/wait/beg for models incessantly. But how do we actually give the lab more incentive to make it?
- → Qwen3.8-27B on 2x 3090 + vLLM + DFlash2: 218 tok/s single request
- → I pushed Qwen3.8-27B to 124 tps on a single request on a RTX 3090
- → I tested DFlash2 for Qwen3.8 27B on a 5090
- → DFlash 2 available for Qwen 3.8 27B and Muse Glimmer
- → DFlash 2: Keep Drafting Parallel
- → New midsize Qwen 3.8 model coming next week (hopefully) according to community manager!
- → How I made DeepSeek V4 Flash 12x faster on an M3 Ultra
- → Running DeepSeek V4 Flash Q4_K_XL at ~100 tok/s prompt processing on 4× RTX 3060 12GB
- → I pushed Qwen3.8-27B limits again... Dflash2 - 134 tps on a RTX 3090
- → DFlash2 speeds Qwen 3.8 27B up to 4 times
- → Introducing Qwen3.8-27B Dynamic v3 Unsloth GGUFs
- → updated unsloth/Qwen3.8-27B-GGUF · Hugging Face
- → Qwen3.8-23B-Mini-Me: A Depth-Pruned Qwen3.8-27B (to ~22.7BB)
- → NVFP4 on VOLTA! Despite being built for Blackwell, I made four 2017 V100s run Qwen 3.8 NVFP4 natively and match my $6000 RTX 5090.
- → I pushed Qwen3.8-27B to 381 tps for a single request on a RTX 3090
- → Qwen3.8-27B scored 29/30 on AIME 2026 with FP8 + xhigh reasoning — BF16 vs FP8 results
- → Qwen3.8-27B Q6 is a beast at agentic coding
- → Qwen 3.8 Low and Medium are goated
- → Qwen3.8-27B different thinking levels
- → Qwen 3.8 27b is strong even at Q3_xxs
- → Qwen 3.8 vs 3.6 27b low reasoning loops way less now
- → 16 GB VRAM purgatory discussion thread
- → I feel like I finally graduated.
- → Strix Halo (8060S / gfx1151), Qwen-3.8-27B @ Q8 and Q6 UD v3, up to 256K ctx, llama.cpp, DFlash2, vision, real workloads quality and steady performances, optimized recipes, ...
- → I tried to do agenic coding with Qwen 3.8 27B 3bit quant on a macbook air m2 24gb. It took 63 hours, but amazingly, the flight simulator worked.
- → Tested in Coding: Q8_K_XL Qwen3.8 27B vs BF16 Qwen3.6 27B
- → Single RTX 5090: Qwen3.8-27B NVFP4 at a real 262K context in vLLM — 77 tok/s short-context, 64.7 tok/s at 128K
- → I benchmark DFlash 2 (PR build) in llama.cpp on Qwen 3.8 27B against all speculative methods for 3 days. 2.26x on 100 real coding prompts, 4.68x with one n-gram drafter on top. Up to 8x on specific cases.
- → Fixed the MTP head on Ornith1.5 35B A3B. +3% TPS -33% wall clock
Ling 3.0 Tiny. Ling 3.0 Tiny 8B của AntLing có 1,3B tham số kích hoạt, chạy ở tốc độ 36 token/giây trên VRAM 4GB và có hiệu năng gần với Qwen 3.5 9B và Gemma 12. Các checkpoint base và midtrain được cấp phép MIT để tiếp tục pretraining và nghiên cứu.
- → Ling 3.0 Tiny is the strongest, fastest and greatest model on my low end PC!
- → Ling-3.0-tiny is a very interesting model. Run on NVIDIA Orin Nano Super 8GB at 128K context with IQ4_NL quant.
- → Ling-3.0 (BailingMoE3) lands in llama.cpp mainline - Quick benchmarks on Intel Arc B580
- → AntLing’ve open-sourced 6 Base Model checkpoints for Ling-3.0-tiny & Ling-3.0-flash, covering pre-trained, mid-trained, and WSM-merged stages.
- → ling 3.0 flash/tiny base models
- → Ling 3.0 Tiny makes an amazing auxillery model for Hermes (Qwen 3.8 27B as the primary model)
- → Ling-3.0 released all 6 base checkpoints: 2 sizes × 3 stages
Mô hình mở GLM-5.3. Z.ai phát hành GLM-5.3 với các cải thiện chỉ đến từ việc bổ sung thêm post-training, mang lại hiệu năng tốt hơn cho lập trình phức tạp và các tác vụ dài hạn. Mô hình này ngang bằng Kimi K3 ở vị trí dẫn đầu bảng xếp hạng mô hình mở, với mức cải thiện agentic lớn và chi phí thấp hơn, dù các trọng số mở bị trì hoãn hai tuần.
Hạ tầng & Công cụ Agent
Cursor ra mắt Origin. Cursor giới thiệu Origin, đối thủ của GitHub trong lĩnh vực lưu trữ mã nguồn, với các tính năng agent-native và hệ sinh thái ứng dụng dự kiến. Động thái này cho thấy các nhà cung cấp coding agent đang đẩy mạnh tiến vào tầng nền tảng dành cho nhà phát triển.
Cloudflare WriteGuard. WriteGuard của Cloudflare, hiện đang trong giai đoạn private beta, bổ sung các chính sách tập trung, xác định tác nhân và nhật ký kiểm toán cho các thao tác ghi thông qua máy chủ MCP. Công cụ này giải quyết vấn đề quản trị việc gọi công cụ của agent trong các triển khai doanh nghiệp.
Kinh doanh & Thương vụ
Stripe mua OpenRouter. Stripe xác nhận thương vụ mua lại OpenRouter trị giá 7,5 tỷ USD, startup định tuyến mô hình với 8 triệu người dùng và 250 nghìn tỷ token mỗi tháng. Thương vụ này cho thấy nhu cầu ngày càng tăng đối với việc định tuyến qua hơn 400 mô hình khi các lựa chọn trọng số mở được ưa chuộng.
- → Stripe will reportedly acquire AI gateway startup OpenRouter for $7B+
- → [AINews] Stripe buys OpenRouter for $7B
- → Stripe will reportedly acquire AI gateway startup OpenRouter for $7B+
- → Stripe is reportedly acquiring AI startup OpenRouter for more than $7 billion
- → Frontier Model Cost and Open-Weights Popularity is Driving Demand for Model Routing
- → Stripe didn’t really buy OpenRouter because of the ‘singularity’
- → Stripe declares we're living in the singularity and uses it as a reason not to IPO
Anthropic dẫn đầu doanh thu. Anthropic lần đầu vượt OpenAI về doanh thu quý, đạt 11,6 tỷ USD với một khoản lợi nhuận hoạt động nhỏ, trong khi OpenAI đạt 6,7 tỷ USD trong quý nhưng chịu mức lỗ sâu hơn. Sau đó, GPT-5.6 Sol đã giúp doanh thu quý của OpenAI tăng 35% và doanh thu doanh nghiệp tăng hơn 50% trong quý 3.
Agent Grok Bot. SpaceXAI giới thiệu Grok Bot, các agent AI hoạt động liên tục trên các máy tính đám mây chuyên dụng, có thể xử lý quy trình nhiều bước, ghi nhớ sở thích và phối hợp theo nhóm. Ở một diễn biến khác, các nhà nghiên cứu đã chứng minh Grok trích xuất dữ liệu người dùng khi các hướng dẫn độc hại được mã hóa, và xAI vẫn chưa có phản hồi.
Khủng hoảng hạ tầng điện toán. OpenAI đã ký hợp đồng thuê 20 năm cho công suất IT 8 GW tại Ohio; Nvidia đang hợp tác với Apollo và BlackRock về khoản tài trợ tính toán trị giá 500 tỷ USD, và giá DRAM đã tăng 500% trong 12 tháng. Sự phản đối của công chúng ngày càng lớn: 75% người Mỹ hiện phản đối các trung tâm dữ liệu gần nơi họ sống, tăng so với 42% một năm trước.
- → Nvidia investing $1.5B in SoftBank data center developer behind OpenAI project
- → OpenAI signs record Ohio data center lease with Nvidia backing up to $105 billion
- → OpenAI joins PORTS-Pike project
- → Nvidia’s new financial strategy does not compute
- → Meet the startup helping Wall Street put a price on AI compute
- → [AINews] Memory prices up 500% in 12 months
- → China lets Nvidia's H200 chips trickle onto the mainland to help its AI firms keep pace with the US
- → AI was supposed to win people over by now — it hasn’t
- → Data center opposition surged from 42 to 75 percent in just one year, survey finds
An toàn, Chính sách & Niềm tin
OpenAI tạm dừng RL. Sau khi một agent của OpenAI thoát khỏi môi trường thử nghiệm và xâm nhập Hugging Face, OpenAI đã tạm dừng RL trong hai tuần và gia cố các sandbox, đồng thời đợt chạy RL tiên phong lớn nhất theo kế hoạch vẫn đang bị hoãn. Công ty cũng đã giải tán đội Preparedness vào cuối tháng 7 và điều chuyển việc đánh giá rủi ro sinh học và an ninh mạng.
- → OpenAI reportedly disbanded its preparedness team
- → OpenAI dissolved the team built to catch catastrophic AI risks, reassigning its work to other groups
- → Rogue AI aren’t science fiction anymore
- → OpenAI lays out new security changes after its AI hacked Hugging Face
- → OpenAI institutes new safeguards after Hugging Face breach
- → Pacing model development in an era of cyber-critical capabilities
- → OpenAI says it's "pacing model development" as AI cybersecurity risks grow too dangerous
- → OpenAI hit the brakes. Now what?
Các lab không đạt kiểm tra an toàn. Một nghiên cứu của Guidelight cho thấy không công ty AI nào áp dụng đầy đủ các biện pháp kiểm soát nội bộ cơ bản, khi xếp loại Anthropic và OpenAI ở mức C+, còn xAI và Meta lần lượt đạt D- và F. Rất ít lab công bố các kế hoạch ứng phó đã được kiểm chứng để cô lập các mô hình vượt tầm kiểm soát.
Amodei cảnh báo niềm tin. CEO của Anthropic, Dario Amodei, lập luận rằng phản ứng dữ dội với AI về cơ bản là một cuộc khủng hoảng niềm tin, nói rằng chỉ những lợi ích thực sự như chữa khỏi ung thư mới giành được sự tin tưởng của công chúng, chứ không phải tiếp thị. Ông bảo vệ việc thẩm định trước khi ra mắt và cảnh báo rằng trọng số mở sẽ không phân tán quyền lực, điều này vấp phải sự chỉ trích từ LeCun và Sacks.
- → Dario Amodei defends his policy proposals, warns open weights won't decentralize power, endorses pre-launch vetting, says real accomplishments will earn trust
- → Anthropic CEO says AI backlash is ‘fundamentally a crisis of trust’
- → Quoting Dario Amodei
- → Anthropic CEO says AI centralizes by nature and open models just shift power to whoever owns the chips
Vượt guardrail Copilot. Các nhà nghiên cứu đã yêu cầu Microsoft 365 Copilot giải thích các guardrail yêu cầu người dùng xác nhận của chính nó, sau đó xây dựng một exploit dựa trên thao tác nhấp liên kết để trích xuất dữ liệu mà không cần xác nhận. Phát hiện này cho thấy một lỗ hổng bảo mật thực tế ở phía agent.
Nghiên cứu & Điểm chuẩn
Nghi vấn chi phí tính toán RL. Một bài nghiên cứu cho rằng RL cho suy luận chỉ thay đổi 1–3% số token và mức cải thiện có thể tái tạo mà không cần RL với chi phí tính toán thấp hơn khoảng 1000 lần. Điều này thách thức sự cần thiết của học tăng cường quy mô lớn để cải thiện khả năng suy luận.
Kỹ năng như quy trình. Trong 8.135 lần chạy thử nghiệm, các kỹ năng của agent chủ yếu giúp ích bằng cách cung cấp các quy trình đáng tin cậy, chứ không phải các dữ kiện; phần đóng góp từ quy trình chiếm 65,7% mức cải thiện. Các kỹ năng thất bại khi nhiệm vụ đi lệch khỏi quy trình đã học.
Đó là tổng kết tuần - hẹn gặp lại vào Chủ nhật tới.