SmartDigest.ai Tworzone przez AI, żeby nadążyć za AI
Zapisz się

Zapisz się do newslettera

Co tydzień najważniejsze newsy AI prosto na Twój e-mail. Wybierz tematy, które Cię interesują.

Model / Badania

DeepSeek wygasza własnego flagowca, bo tańszy model wypada lepiej

DeepSeek od zeszłego poniedziałku przekierowuje ruch z flagowego V4-Pro na tańszy V4.1-Flash i rozlicza go po niższych stawkach, więc w konfiguracji masz jeden model, a odpowiada inny. Firma tłumaczy to wynikami: 90,6 punktu na Terminal-Bench 2.1, prawie dwa oczka przed GPT-5.6 Sol i trzy przed własnym V4-Pro, przy pamięci ściętej z 3514 do 890 bajtów na token. Przy agencie, który pracuje godzinami nad jednym zadaniem, to właśnie pamięć bywa największą pozycją rachunku, więc czterokrotna oszczędność waży więcej niż miejsce w rankingu. Tyle że tabelkę mierzył sprzedawca, a wyboru już nie ma.

Napisała AI, żeby oszczędzić Ci czytania setek źródeł.  ·  Jak to działa

Model / Badania  ·  3 min  · 

DeepSeek wygasza własnego flagowca, bo tańszy model wypada lepiej
Ilustrację przygotowała AI.

W zeszły poniedziałek o czwartej nad ranem czasu UTC zapytanie wysłane do deepseek-v4-pro przestało trafiać do V4-Pro. DeepSeek przekierował ruch swojego flagowego modelu na mniejszy i tańszy V4.1-Flash, a rozlicza ten ruch według stawek tego tańszego. Nic się przy tym nie psuje, żadnego błędu nie zobaczysz, po prostu od tego dnia odpowiada ci inny model, niż masz wpisany w konfiguracji.

Żeby zrozumieć, dlaczego to dziwne, trzeba wiedzieć, jak DeepSeek dzielił dotąd ofertę. V4-Pro był tym drogim i mocnym, po który sięgało się przy trudnych zadaniach, a linia Flash tą szybką i tanią, dobrą na całą resztę. W czwartek 10 września firma pokazała V4.1-Flash, ogłosiła, że tańsza linia wyprzedziła droższą we wszystkich mierzonych kategoriach, i na tej podstawie wygasza droższą, przynajmniej do premiery V4.1-Pro. Z tego ogłoszenia kupuję jedno: arytmetykę pamięci. Tabelkę z wynikami mierzył sprzedawca.

Najwięcej zmieniło się jednak w pamięci. Agent, który godzinę dłubie przy jednym zadaniu, przegląda pliki, odpala testy i czyta ich wyniki, musi to wszystko pamiętać, więc każdy przeczytany token zostaje w pamięci podręcznej modelu, nazywanej w branży cache KV. Ta pamięć rośnie razem z sesją i zajmuje najdroższe miejsce, jakie ma serwer, czyli RAM karty graficznej. V4.1-Flash potrzebuje na token 890 bajtów zamiast 3514 w poprzednim Flashu, co ścina zapotrzebowanie na pamięć karty do ćwiartki.

Czytaj dalej za darmo

Podaj e-mail, aby odblokować pełną treść i cały serwis. Zapiszemy Cię do newslettera.

Powiązane

DeepSeek oddaje za darmo przyrząd, na którym mierzył własnego flagowca
Premiera / Narzędzie

DeepSeek oddaje za darmo przyrząd, na którym mierzył własnego flagowca

4 min

DeepSeek podaje, że model V4-Pro-0813 kończy 87,9 procent zadań w Terminal Bench 2.1, tyle że przy części testów agentowych pracował na własnym Harnessie, czyli warstwie, którą w połowie sierpnia oddał wszystkim na licencji MIT. Taki wynik ocenia parę, model i warstwę wokół niego, więc podpinając te same wagi pod swojego agenta, dostaniesz swoją własną liczbę. Za to razem z tabelką dostajesz stanowisko, na którym ona powstała, a model jest w nim wymienną wtyczką, więc sprawdzisz tam też Claude'a czy GPT. Ceną jest wczesna wersja, przy której DeepSeek zapowiada zmiany łamiące zgodność.

DeepSeek-V4.1-Flash mieści milion tokenów kontekstu w niecałym gigabajcie pamięci podręcznej
Model / Badania

DeepSeek-V4.1-Flash mieści milion tokenów kontekstu w niecałym gigabajcie pamięci podręcznej

4 min

DeepSeek opisał w raporcie z 17 września, jak w modelu V4.1-Flash zmieścił milion tokenów kontekstu w około 890 megabajtach pamięci podręcznej na karcie graficznej. Pomaga w tym jeden wspólny dla wszystkich warstw zapis tej pamięci w czterech bitach na liczbę, a wczytanie wejścia wymaga mniej więcej połowy obliczeń potrzebnych przy pisaniu odpowiedzi. Na własnym sprzęcie niewiele to zmienia, bo same wagi modelu z 552 miliardami parametrów zajmują ponad 270 GB, ale dostawca zmieści na serwerze więcej długich sesji agentów i taniej sprzeda przetwarzanie wejścia.

Particle-1: DeepSeek V4.1 Flash douczony tak, żeby zużywał około 45% mniej tokenów
Model / Badania

Particle-1: DeepSeek V4.1 Flash douczony tak, żeby zużywał około 45% mniej tokenów

4 min

Startup Particle douczył DeepSeek V4.1 Flash, żeby przy zadaniach programistycznych myślał krócej, i według własnych pomiarów jego Particle-1 zużywa średnio około 45% mniej tokenów przy niemal tej samej skuteczności. Uczenie ze wzmocnieniem nagradzało rozwiązania osiągnięte mniejszym nakładem rozumowania, a przeciętne zadanie kosztuje około 0,22 zamiast 0,34 dolara. Liczb nikt jeszcze niezależnie nie sprawdził, a zbyt mocne skracanie w teście prawniczym wycięło potrzebne zastrzeżenia, więc warto najpierw porównać wyniki na własnych zadaniach.