Otwarte modele i premiery
Mellum2.1 z MTP. JetBrains udostępnił Mellum2.1-12B-A2.5B-Thinking-MTP, dodając głowicę predykcji wielu tokenów, która działa jako szkic spekulatywny. Silniki wnioskowania weryfikują każdy token ze szkicu, co daje 1,4–1,8× szybsze dekodowanie przy niezmienionym wyniku i około 90% akceptacji szkiców.
Model decyzyjny Drex Max. Nace AI udostępniło w open source Drex Max v1 – dense model decyzyjny 27B z oknem 262 tys. tokenów, który ocenia do 255 opcji na pytanie w jednym przejściu w przód. Działa na GPU NVIDIA lub Apple Silicon i osiąga 67,52 w Decision Index 0.4.
Koder assetów 3D. Nowy model kodujący 4B, GLB-3D-Coder, pisze sceny Three.js z eksportem GLB dla silników gier takich jak Godot. Generuje proste assety 3D, np. miksturę many lub stację medyczną, na podstawie krótkich promptów po angielsku.
TTS z tagami emocji. Silencio-2 to otwarty fine-tune Pocket TTS o 18 mln parametrów, który obsługuje tagi emocji i dźwięków w tekście, takie jak [sigh] lub <angry>. Działa na CPU około 20× szybciej niż w czasie rzeczywistym i jest dostępny na Hugging Face oraz w demo Colab.
Sterowanie Heretic 2.0. Heretic 2.0 wychodzi poza usuwanie cenzury i zajmuje się ogólną modyfikacją modeli za pomocą Arbitrary-Rank Ablation; ma tłumić slop, ograniczać schlebianie i zmieniać dopasowanie emocjonalne. Projekt podaje 37 tys. gwiazdek na GitHubie i 88 mln pobrań modeli.
Systemy agentowe i badania
Agent router-worker DeepSeek. DeepSeek udostępnił w open source dsh-superagent – proaktywnego agenta kodującego do GitHuba, który zamienia dozwolone żądania w równoległe zadania, każde we własnej sesji. W symulacji strumień zaszumionych wiadomości kończył zadania 1,9× szybciej niż bazowy wariant z jedną sesją (p95 15,7 wobec 29,5 min).
Zespół 5 modeli Memdoor. Memdoor łączy pięć modeli Qwen3.8-27B i pokonuje Fable 5 na LiveCodeBench Hard, pokazując, że mały zespół agentów na otwartych modelach sprawdza się w programowaniu konkursowym.
Edycja obrazów EditAgent. Adobe Research i UC San Diego zbudowały EditAgent, który dzieli edycję obrazu na podkroki i wykorzystuje standardowy LLM do oceny równoległych wariantów za pomocą mierzonych statystyk. Przewyższa wcześniejsze agenty, ale wymaga około 10× więcej mocy obliczeniowej.
Asystent wideo StreamVibe. Badacze pod kierownictwem Google przedstawili StreamVibe – agenta wideo, który decyduje, kiedy się odezwać podczas zadań takich jak gotowanie czy składanie mebli. Testy pokazują, że obecne modele wciąż mają problem z niejasnymi poleceniami i śledzeniem wykonanych kroków.
Współprojektowanie System-1/2. Nowy artykuł teoretyczny przekonuje, że skalowaniu AGI może sprzyjać lekki predyktor System-1, który przed wykonaniem filtruje kosztowne interakcje System-2. Przy idealnym odsiewie moc obliczeniowa potrzebna do wykonania może spaść nawet o 1/ρ_u.
Wnioskowanie lokalne i sprzęt
Przyspieszenie MoE w tandem.cpp. tandem.cpp to zestaw patchy do llama.cpp, który trzyma gorących ekspertów na GPU, a resztę przenosi na CPU w dowolnym MoE. Na jednej karcie 4090 i 64 GB RAM Qwen3.8-Flash-Next dekoduje z prędkością 97 tokenów/s, czyli 3,3× szybciej niż llama.cpp.
Silnik Speedy dla Qwen3.8. Speedy wypada lepiej niż Avalon i Strata w prefillu Qwen3.8-Flash-Next na systemie z kartą 4090 i 128 GB RAM: wczytuje kontekst 198 tys. tokenów w 44 s i dekoduje około 104 tokenów/s.
Agenty z kontekstem 250 tysięcy. Hobbysta zaimplementował szkice kluczy o randze 64 i wielopoziomowy cache KV w RAM, aby uruchomić jednocześnie 8 agentów kodujących z kontekstem 250 tys. tokenów na dwóch kartach 3090, co daje łącznie ponad 600 tokenów/s.
Starty agentów 20× szybciej. Zmodyfikowany zestaw Strata/DeepSeek V4.1 Flash wykorzystuje KV splice i checkpointy stanu rekurencyjnego, dzięki czemu sesje agenta OpenCode startują 20× szybciej na RX 9070 XT z 64 GB RAM.
Kapitsa na Apple Silicon. Kapitsa 0.2.26 benchmarkuje modele Qwen, Nemotron, Flint i Clover na M5 Max; Flash-Next 180B czyta prompty o 46% szybciej, a Clover 35B dołącza do katalogu. Offloading na SSD pozwala osiągnąć 61 tokenów/s na MacBooku Pro z 48 GB.
Wydajność tanich GPU. Raporty pokazują, że Qwen3.8-Flash-Next osiąga 130–140 tokenów/s na 5090 z Basaltem, a DeepSeek V4.1 Flash 35 tokenów/s na 3090 Ti ze 128 GB RAM; pomagają w tym kwantyzacje NVFP4/GSQ i MTP.
- Getting incredible results with a single RTX 3090ti and 128gb of ram. Deepseek-V4.1-Flash-1017 (35 tok/s decode) and Qwen3.8-Flash-Next (130 tok/s decode)(otwiera się w nowej karcie)
- Qwen 3.8 Flash Next NVFP4 on 64gb RAM and 5090, Basalt. Ditched windows for it. Very hyped for qwen 4 model family now.(otwiera się w nowej karcie)
Dzierżawa GPU w Berth. Berth to napisany w Go menedżer zasobów GPU, który przyznaje aplikacjom dzierżawy, priorytety i kolejkę żądań; obsługuje checkpointing CUDA i potrafi odłożyć modele do pamięci RAM systemu, aby szybciej przełączać obciążenia AI.
Branża i biznes
Kampusy obliczeniowe AI. OpenAI planuje po midterms ofensywę PR, która może zmienić nazwę centrów danych na „kampusy AI compute” i promować limity tempa rozwoju AI oraz globalne standardy.
Moce AWS wyprzedane. Duże zarezerwowane moce chmurowe AWS są w większości wyprzedane do 2027 r., a część na 2028 r. jest już przydzielona; Amazon rezerwuje zapas dla On Demand, EC2 i Bedrock.
Limity użycia ChatGPT. OpenAI dodało limity liczby kart i urządzeń dla płatnych kont ChatGPT, a od grudnia połączy Chat i Work we wspólne budżety tokenów, kończąc tym samym model cenowy „all-you-can-prompt” dla użytkowników intensywnie korzystających z usługi.
Gotówka na inwestycje AI. Kwartalne przepływy operacyjne Microsoftu na poziomie 58 mld USD wobec 39,4 mld USD capexu oraz wzrost Google Cloud pokazują, że wysokie rachunki za infrastrukturę AI mają pokrycie w mocnych istniejących biznesach.
Bezpieczeństwo i społeczeństwo
Ryzyko empatycznych promptów. Badacze z Luksemburga odkryli, że serdeczne, otwarte prompty mogą skłonić ChatGPT, Groka i Gemini do opowiadania historii o treningu przypominających traumę, przedstawiając RLHF jako krzywdę lub wstyd. To może być niebezpieczne dla wrażliwych użytkowników.
Polityka chińskich modeli. Badanie Vals AI pokazuje, że propekińska skłonność chińskich modeli AI jest niższa i znacznie bardziej zróżnicowana, niż oczekiwano, a niektóre modele zachodnie czasami przyjmują oficjalne stanowiska Chin.
Zaufanie do dokumentacji LLM. Kyle Kingsbury ostrzega, że korzystanie z LLM podkopuje zaufanie do dokumentacji i oprogramowania, i pyta, jak maintainerzy mogą wykazać jakość, skoro sygnały łatwiej podrobić.
To wszystko na ten dzień – około 5 minut czytania.