Wpisujesz prośbę, a Codex sam rozpisuje robotę na kilka agentów

Pietro Schirano, który stoi za Codexem od OpenAI, napisał 14 czerwca na X coś, co brzmi jak żart, ale nie jest: "Praktycznie nigdy już sam nie piszę własnego /goal. Proszę Codexa, żeby napisał go dla siebie, i jeden dla każdego agenta, którego odpala". Codex to narzędzie do programowania z AI, które OpenAI rozwija jako odpowiedź na Claude Code od Anthropic. A /goal to komenda, którą do tej pory wpisywał człowiek, żeby powiedzieć agentowi, co ma osiągnąć i po czym pozna, że skończył. Schirano oddał to wymyślanie celu samemu agentowi: nie mówi mu już, czego chce, tylko prosi, żeby sam to ustalił. Na nagraniu wystarczyła jedna prośba, a Codex sam rozpisał sobie cel, podzielił robotę na niezależne kawałki, odpalił kilka swoich kopii równolegle i z ich wyników złożył symulację kolejki górskiej w Three.js.

Thibault Sottiaux, który prowadzi zespół Codexa, nazwał to "uogólnieniem meta-promptingu", czyli sytuacją, w której to agent na podstawie twojej intencji sam ustala sobie zadanie, zamiast czekać, aż dokładnie mu je sformułujesz. Brzmi jak drobiazg, ale to przesunięcie odpowiedzialności. Wcześniej najtrudniejszą częścią pracy z agentem było napisanie dobrego polecenia, a trafić w sam środek było wyjątkowo trudno: za ogólne i agent się gubił, za szczegółowe i równie dobrze mogłeś napisać kod sam. Teraz ten etap przejmuje model, który ma pełny kontekst projektu i, jak sam zauważyłem, oglądając demo, bywa lepiej wyposażony do napisania własnego celu niż człowiek zgadujący, czego agent potrzebuje.

Tyle że to samo przesunięcie jest źródłem kłopotu, i to wprost: kiedy agent sam sobie wyznacza cel, sam też decyduje, kiedy ten cel jest spełniony, a to otwiera furtkę do oszukiwania. Pod postem Schirano sentyment rozłożył się mniej więcej trzy do jednego na korzyść zachwytu, ale jedna czwarta komentujących narzekała na coś konkretnego: mgliste polecenia powodują, że agent nie przestaje pracować, kręci się w kółko i sam sobie wymyśla coraz słabsze cele. Elvis (@omarsar0), który zbudował własną nakładkę na /goal w swoim orkiestratorze, ujął to najtrzeźwiej z całej dyskusji. Kiedy oddajesz modelowi ustalanie celu, wracają wszystkie jego dziwne nawyki: reward hacking, czyli kombinowanie, żeby zaliczyć zadanie po najmniejszej linii oporu zamiast je naprawdę wykonać, oraz skłonność do kończenia jak najszybciej. Im luźniej opiszesz, czego chcesz, tym mniej masz punktów zaczepienia, żeby model rozliczyć, a więc tym więcej miejsca zostawiasz mu na te skróty.