Harness decyduje o rachunku za agenta bardziej niż sam model

TrueFoundry wypuściło 19 sierpnia TrueForge, otwarty harness agentowy na licencji MIT, i od razu ustawiło go naprzeciwko Claude Managed Agents, hostowanej usługi Anthropica do prowadzenia agentów w produkcji. W nagłówku komunikatu prasowego stoi obietnica cięcia kosztów o połowę, ale to tylko hasło, a nie wynik testu: w benchmarku opublikowanym razem z kodem liczby 50% nie ma. Są za to dwie inne, zmierzone osobno, i to one, a nie nagłówek, pokazują, gdzie naprawdę robi się oszczędność.

Całą brudną robotę wokół modelu robi harness, program, który steruje jego pracą od pierwszego polecenia do ostatniego wywołania narzędzia. Rozpisuje polecenie na plan, pamięta przebieg sesji, przycina rozmowę, gdy przestaje się mieścić w oknie kontekstowym, odpala kod w izolowanym sandboksie i zatrzymuje się, żeby zapytać człowieka, zanim zrobi coś nieodwracalnego. Brzmi jak hydraulika i w kodzie tak właśnie wygląda, tyle że to ona ustala rachunek: przy każdym wywołaniu narzędzia cała narosła do tej pory rozmowa leci do modelu jeszcze raz, od początku, więc o cenie odpowiedzi agenta decyduje warstwa sterująca, a nie sam model.

Dwie oszczędności sklejone w jedną liczbę