Instrukcje pisane pod słabszy model dziś kosztują cię kontekst

Poprawiam literówkę w komentarzu, a agent przed edycją wczytuje trzy dokumenty architektoniczne, bo tak mu kazałem pół roku temu. Wtedy ta instrukcja ratowała mi skórę, bo model bez niej zgadywał, gdzie co leży. Teraz kosztuje kilka tysięcy tokenów i minutę czekania na zmianę jednego słowa.

OpenAI opublikowało w zeszłym tygodniu wpis dla deweloperów, który stawia niewygodną tezę: wszystko, co napisałeś przez ostatni rok, żeby pilnować słabszego modelu, przy GPT-6 Astrze zaczyna działać przeciwko tobie. Nie dlatego, że te instrukcje są złe, tylko dlatego, że zajmują miejsce w kontekście i ciągną model w stronę zachowań, których już od niego nie chcesz.

Instrukcje, które agent czyta, zanim w ogóle tknie kod, leżą u mnie w trzech miejscach. Skill włącza się tylko wtedy, kiedy model uzna, że zadanie pasuje do jego opisu: proszę o migrację bazy, a model sięga po plik z procedurą i przechodzi ją po mojemu, a nie po swojemu.