Fable 5.1 tanieje tylko w jednej pozycji rachunku

Firma inwestycyjna Millennium przez kilka lat nie potrafiła wyjaśnić rzadkiej awarii we własnych systemach. Nie rozgryzł jej żaden z inżynierów firmy ani żaden model, dopóki podczas testów Claude Fable 5.1 nie znalazł przyczyny. Anegdota pochodzi z premierowego wpisu samego Anthropica, więc traktuję ją z rezerwą, ale i tak jest najkonkretniejszą rzeczą w całym ogłoszeniu. Powtarzana wszędzie liczba brzmiała inaczej: 25% taniej. I właśnie ona wymaga sprawdzenia, bo w cenniku nie zmieniło się nic.

Cała obniżka mieści się w jednej pozycji na rachunku

Fable 5.1, najmocniejszy szeroko dostępny model Anthropica, kosztuje dokładnie tyle co poprzednik: 10 dolarów za milion tokenów wejścia i 50 za milion tokenów wyjścia. Pisałem o tym cenniku w lipcu, gdy strona z modelami była właściwie samą tabelą stawek bez benchmarków, i obie liczby przetrwały premierę bez zmian. Spadła jedna, osobna pozycja. Agent, który przez godzinę grzebie w twoim repozytorium, przy każdym kroku wysyła modelowi od nowa te pliki, które już raz widział, bo między wywołaniami model niczego nie pamięta. Dostawca trzyma więc raz przetworzone wejście u siebie i przy kolejnym kroku tylko je odczytuje, zamiast przetwarzać wszystko od zera, a za taki odczyt bierze mniej niż za świeże wejście. Właśnie ta stawka spadła o 75%, do 0,25 dolara za milion tokenów, czyli do jednej czterdziestej ceny zwykłego wejścia.