Darmowy przewodnik po budowie agentów, od modelu po wdrożenie na produkcji

Haggai Roitman wrzucił 22 czerwca na arXiv książkę, która bierze się za rzecz do tej pory nieoczywistą: opisuje budowę agentów AI w całości, od tego, co siedzi najgłębiej pod maską, aż po uruchomienie gotowego systemu na produkcji. Agent to w tym kontekście model językowy, który sam planuje kolejne kroki, sięga po narzędzia i doprowadza zadanie do końca. "The Hitchhiker's Guide to Agentic AI: From Foundations to Systems" wyszła pod otwartą licencją CC BY-SA 4.0, więc każdy może ją pobrać, cytować i przerabiać bez pytania kogokolwiek o zgodę.

Całość stoi na jednej tezie: dobrego systemu agentowego nie zbudujesz, rozumiejąc tylko jedną warstwę, bo musisz ogarniać wszystkie naraz. Brzmi banalnie, dopóki nie spróbujesz sam czegoś takiego złożyć. Wiedza, której do tego potrzeba, leży dziś rozsypana. Specyfikację jednego protokołu czytasz na stronie jego twórców, poradnik o zupełnie innej technice na czyimś blogu, a teorię, która stoi pod tym wszystkim, w osobnej pracy naukowej. Nikt tego wcześniej nie zebrał w jeden ciąg i to jest właściwy powód, dla którego taka pozycja w ogóle ma sens.

Roitman zaczyna od samego modelu językowego: jak zbudowany jest transformer, jak się go trenuje, dostraja pod konkretne zadanie i odchudza, żeby liczył szybciej i taniej. Ważne jest to, co z tą częścią robi: traktuje ją jako podłoże, nie jako główny temat, bo model to tylko rzecz, na której stoi reszta. Zaraz potem model uczy się rozumować: wchodzi RLHF, dostrajanie na podstawie ludzkich wskazań, które odpowiedzi są lepsze, a które gorsze, oraz modele rozumujące, które przed udzieleniem odpowiedzi rozpisują sobie kolejne kroki na boku, zamiast strzelać od razu.