OpenAI od GPT-5.6 liczy zapis do cache drożej, a odczyt dziesięć razy taniej

Od GPT-5.6 OpenAI liczy zapis do pamięci podręcznej promptów drożej, a odczyt, jak dotąd, dziesięć razy taniej, i zapowiedziało, że te zasady obejmą każdy późniejszy model, więc dotyczą rachunku, który płacisz dziś. Przypomniała mi o tym zapowiedź ograniczonego podglądu GPT-5.6 Sol, która trafiła do mnie w tym tygodniu przez wyszukiwarkę, jakby była świeża, choć opisuje wydarzenie sprzed czterech miesięcy. Na dole tej samej strony OpenAI poleca już wpis z 26 października o GPT-6.1 Terra, modelu następnej generacji, a w menu ma GPT-6.1 Sol. Pisałem o tej zapowiedzi pod koniec czerwca, a o premierze całej rodziny GPT-5.6 kilka tygodni później, więc nie będę udawał, że to nowość. Przeczytałem ją jeszcze raz dla tych kilku rzeczy, które nie wygasły razem z modelem.

OpenAI liczy zapis do cache drożej, a odczyt dziesięć razy taniej

Agent programistyczny przy każdym kroku wysyła modelowi ten sam długi początek: instrukcje, opis narzędzi, fragmenty repozytorium. Dostawca może ten początek przechować w pamięci podręcznej promptów i policzyć mniej za jego ponowne przeczytanie, dzięki czemu nie płacisz pełnej stawki za ten sam tekst po raz dziesiąty. Przy GPT-5.6 OpenAI postawiło na przewidywalność: pozwoliło ci samemu zaznaczyć, gdzie kończy się powtarzalna część promptu, i obiecało, że zapisany fragment przetrwa co najmniej 30 minut.