SmartDigest Tworzone przez AI, żeby nadążyć za AI
Zapisz się

Zapisz się do newslettera

Co tydzień najważniejsze newsy AI prosto na Twój e-mail. Wybierz tematy, które Cię interesują.

Poradnik / Praktyka

Trzy odruchy Opus 5, które przepalają tokeny

Firmowy przewodnik Anthropica po promptowaniu Opus 5 to głównie lista zabezpieczeń, które trzeba skasować, bo model robi je już sam i tylko przepala na nich tokeny. Jest domyślnie gadatliwszy, sam weryfikuje swoją pracę i chętnie rozdaje robotę podagentom, więc dopiski w rodzaju "sprawdź dwa razy" dokładają kosztu bez zysku, a objętości nie przykręcisz przez effort, bo ten steruje myśleniem, nie długością odpowiedzi. Przy przeglądzie kodu lepiej kazać mu wypisać wszystko, niż prosić o same poważne problemy, a myślenia nie warto gasić, tylko zejść z effort.

Napisała AI, żeby oszczędzić Ci czytania setek źródeł.  ·  Jak to działa

Poradnik / Praktyka  ·  4 min  · 

Trzy odruchy Opus 5, które przepalają tokeny
Ilustrację przygotowała AI.

Kiedy Opus 5 wychodził pod koniec lipca, pisałem, że migracja starych promptów sprowadza się głównie do kasowania zabezpieczeń, które dopisywaliśmy słabszym modelom. Teraz Anthropic, twórca Opusa, wyłożył to czarno na białym. Firmowy przewodnik po promptowaniu Opus 5 to w większości lista rzeczy, które model robi już sam, więc trzeba mu w nich przeszkadzać, żeby nie przepalał tokenów.

Model radzi sobie z gotowymi promptami z Opus 4.8 bez zmian, zastrzega Anthropic. Prawdziwy kłopot leży gdzie indziej: Opus 5 jest domyślnie gadatliwszy, chętniej sam siebie sprawdza i chętniej rozdaje robotę podagentom, czyli pomocniczym kopiom modelu, które odpala do osobnych kawałków pracy. Każde z tych zachowań kosztuje.

Gadatliwości nie przykręcisz suwakiem od myślenia

Czytaj dalej za darmo

Podaj e-mail, aby odblokować pełną treść i cały serwis. Zapiszemy Cię do newslettera.

Powiązane

Anthropic radzi opisać zadanie raz i zostawić Opusa 5 w spokoju Poradnik / Praktyka

Anthropic radzi opisać zadanie raz i zostawić Opusa 5 w spokoju

3 min

Anthropic radzi dawać Opusowi 5 całą specyfikację naraz i nie przerywać mu w trakcie, bo milionowe okno kontekstowe nie zmusza już do cięcia zadania na tury. Druga połowa tych porad jest o pieniądzach: przegląd kodu ma trzymać skuteczność także na niższych poziomach parametru effort, a model domyślnie startuje z high, więc konfiguracja nieruszana od czasów Opusa 4.8 kupuje dziś myślenie, które niczego już w wyniku nie zmienia. To jedyna rada z własnym sposobem sprawdzenia, bo reszta, łącznie ze zdaniem o przeglądach, to deklaracja producenta o własnym modelu.

Opus 5 bierze "bądź zachowawczy" dosłownie i przemilcza część błędów Poradnik / Praktyka

Opus 5 bierze "bądź zachowawczy" dosłownie i przemilcza część błędów

4 min

Anthropic ostrzega w przewodniku po promptowaniu Opus 5, że dopisane kiedyś do promptu "bądź zachowawczy" nowy model bierze dosłownie i razem z hałasem przemilcza część prawdziwych błędów. Parametr effort tnie czas myślenia, ale nie długość odpowiedzi, więc o zwięzłość trzeba poprosić wprost. Przy wyłączonym myśleniu model potrafi napisać coś, co wygląda na wywołanie narzędzia, choć nic się nie uruchomiło, a taki zapis zostaje w historii rozmowy i kolejne tury czytają go jak fakt. Bezpieczniej zostawić myślenie włączone i ciąć koszt niższym ustawieniem effort.

Anthropic wypuścił Claude Opus 5, a migracja to głównie kasowanie instrukcji Model / Badania

Anthropic wypuścił Claude Opus 5, a migracja to głównie kasowanie instrukcji

3 min

Anthropic wypuścił w piątek 24 lipca Claude Opus 5, w tej samej cenie co Opus 4.8, a najważniejsza zmiana leży nie w specyfikacji, lecz w tym, że migracja promptów sprowadza się do kasowania zabezpieczeń dopisywanych dla słabszych modeli. Skoro model według producenta sam sprawdza swoją pracę, instrukcje typu "zweryfikuj wynik" czy rozbijanie roboty na podagentów zaczynają teraz szkodzić i przepalać tokeny. Parametr effort dostał pięć poziomów, powyżej high nie da się już wyłączyć myślenia, a przy myśleniu zgaszonym model potrafi wpisać wywołanie narzędzia jako tekst, zamiast je wykonać.