DeepSeek V4 Flash dostępny lokalnie: prędkości, kwantyzacje i dziwactwa agentów
Inteligencja na poziomie marca 2026. DeepSeek V4 Flash (0731) osiąga wynik 50 w indeksie inteligencji, prawie dorównując wynikowi 51 modeli z czołówki sprzed pięciu miesięcy. Na sprzęcie konsumenckim działa z użytecznymi prędkościami: 44 t/s na RTX PRO 6000 eGPU, 15 t/s na trzech MI50, a nawet 4,5 t/s na dwóch RTX 3060 z offloadingiem do RAM, dzięki sprytnej kwantyzacji i częściowemu offloadingowi.
- DeepSeek-V4-Flash-0731: Models you can run locally now have the intelligence score of the top frontier model from March 2026(otwiera się w nowej karcie)
- DeepSeek-V4-Flash-0731 on Bosgame M5 with RTX PRO 6000 Max-Q eGPU(otwiera się w nowej karcie)
- Ran DS V4-Flash-0731 Locally on 3xMI50 32GB @ ~15 t/s TG(otwiera się w nowej karcie)
- DeepSeek V4 Flash 0731 IQ2_M benchmark for Dual 3060 and 96GB RAM ≈ 3.5 tok/s.(otwiera się w nowej karcie)
Wywoływanie narzędzi naprawione, przestrzeganie reguł nadal zawodne. Po zgłoszeniach społeczności o nieprawidłowym wywoływaniu narzędzi, wdrożono poprawkę dla llama.cpp i podzielono się obejściami dla Unsloth Studio. Jednak użytkownicy zauważają, że model często ignoruje prompty systemowe i umiejętności, przechowując je jako skompresowane streszczenia zamiast ściśle się do nich stosować, co podważa jego niezawodność w zadaniach agentowych wymagających precyzyjnego podążania za instrukcjami.
Ewaluacja agentów i benchmarki
Społecznościowe benchmarki dla agentów Hermes. Użytkownicy LocalLLaMA dyskutują o najlepszych benchmarkach do oceny modeli zdolnych do działania jako agenci, takich jak Hermes, a wielu uważa, że uznane listy rankingowe, jak SWE-bench, nie sprawdzają się w ich przepływach pracy związanych z asystentem domowym lub przetwarzaniem dokumentów.
Krytyka list rankingowych tylko do kodowania. Apel o bardziej zróżnicowane benchmarki argumentuje, że ostatnie listy rankingowe nieproporcjonalnie skupiają się na zadaniach programistycznych, pozostawiając naukę języków, twórcze pisanie i rozumowanie STEM niedoreprezentowane, co utrudnia ocenę wydajności modeli w przypadkach użycia agentów nieobejmujących kodowania.
DIY zestaw benchmarków specyficznych dla dziedzin. Użytkownik Reddita zbudował kolekcję ponad 30 małych testów specyficznych dla dziedzin (np. zdrowy rozsądek, symulacja myjni samochodowej) oraz narzędzie internetowe do porównywania odpowiedzi modeli, aby wypełnić lukę między ogólnymi benchmarkami a osobistymi przypadkami użycia.
Badania nad AI i agenci do kodowania
Astra rozwiązuje dziesięcioletnie problemy matematyczne. Następna rodzina modeli OpenAI, Astra, rozwiązała dziesięć wcześniej otwartych problemów z matematyki i teoretycznej informatyki, z formalnymi dowodami w Lean i kosztem poniżej 2000 dolarów za rozwiązanie. Wyniki obejmują geometrię, teorię kodowania i złożoność kwantową, a już zainspirowały dalsze badania ludzkie.
Agenci kodujący ożywiają starzejące się oprogramowanie badawcze. Badanie terenowe z udziałem OpenAI i partnerów akademickich pokazuje, że agenci kodujący AI, tacy jak GPT-5.5 i Claude Code, mogą unowocześnić kruche oprogramowanie naukowe, osiągając w niektórych przypadkach ponad 60-krotne przyspieszenie, ale praca przenosi ciężar na weryfikację poprawności — agenci nie potrafią ocenić nauki.
Polityka i bezpieczeństwo systemów agentowych
Samorozprzestrzeniający się robak wstrzykujący prompty atakuje Copilota. Badacz bezpieczeństwa zademonstrował robaka, który wykorzystuje ukryty biały tekst na białym tle w dokumentach Word, aby wstrzykiwać złośliwe instrukcje do Microsoft Copilot, który następnie kopiuje ładunek do nowych plików. Microsoft potwierdził to zachowanie, ale nie naprawił go po 144 dniach.
Rozpoczyna się obowiązek oznaczania na mocy EU AI Act. Od 2 sierpnia 2026 r. UE wymaga, aby obrazy, wideo, audio i tekst wygenerowane przez AI były wyraźnie oznaczone. Rozporządzenie może wpłynąć na agentów, którzy autonomicznie publikują treści lub tworzą multimedia.
Zakaz „nudify” w Minnesocie przetrwał wyzwanie prawne xAI. Sędzia federalny odmówił xAI próbie tymczasowego zablokowania prawa Minnesoty przeciwko aplikacjom generującym obrazy o charakterze jednoznacznie seksualnym bez zgody, zauważając, że xAI czekało trzy miesiące z pozwem. Ustawa wchodzi w życie, podczas gdy proces jest kontynuowany.
Nowe modele i ekstremalna inferencja
Kimi K3 działa na pojedynczym CPU, powoli. Dwóch programistów niezależnie napisało minimalne silniki inferencyjne w C, aby uruchomić model MoE Kimi K3 o rozmiarze 1,56 TB z dysku, bez GPU. Jeden osiągnął token co 30 sekund przy użyciu 8 GB RAM i strumieniowania NVMe; drugi uzyskał 0,5 t/s z 29 GB RAM, przy czym wszyscy eksperci są odczytywani na żądanie.
LongCat-Flash-Lite-Sparse jest już dostępny. Ta nowa wersja zastępuje gęstą atencję metodą LongCat Sparse Attention (LSA) i natywnie obsługuje do 1 miliona tokenów kontekstu, co czyni ją odpowiednią do zadań agentowych na długich dokumentach.
Laguna S 2.1 aktualizuje kontekst i kwantyzację. Poolside wypuściło nowe punkty kontrolne FP8 i NVFP4 dla Laguna S 2.1, zwiększając domyślny rozmiar kontekstu do 1M tokenów i mając nadzieję na naprawienie problemu zapętlania, który utrudniał przepływy pracy deweloperskie.
To wszystko na ten dzień – około 5 minut czytania.