Twoja wiadomość nie budzi tego agenta, bo on nie spał

Piszesz do agenta na Slacku i wcale go tą wiadomością nie budzisz, bo on nie spał. Twoje zdanie wpada do jego strumienia myśli jako jedna obserwacja więcej, obok wszystkiego, o czym akurat sam myśli, a on decyduje, czy i kiedy odpisze. Headlong, otwarty projekt Laude Institute na licencji Apache 2.0, jest zbudowany dokładnie wokół tego odwrócenia: agent nie czeka tu na polecenie i nie kończy pracy w chwili, w której odpowie.

W każdym agencie stoi warstwa, która pilnuje, co model widzi, czym może ruszyć i jak długo pracuje, zanim zgubi wątek. W tym środowisku mówi się na nią harness. Prawie zawsze jest reaktywna: budzi się na twój prompt, odrabia zadanie i gaśnie do następnego razu. Headlong takiego stanu uśpienia nie ma w ogóle, bo jego agent generuje kolejne myśli także wtedy, gdy nikogo nie ma po drugiej stronie, i sam sobie ustala, co go w danej chwili interesuje.

Są w tym dwa osobne zakłady i lepiej je rozdzielić, bo tylko jeden jest naprawdę kosztowny. Pierwszy mówi, że cały harness da się napisać w Bashu. Drugi, że agent powinien myśleć bez przerwy. Pierwszy przekonuje mnie od ręki, drugi kupuję znacznie ostrożniej, i nie z powodów estetycznych, tylko dlatego, że ma licznik.