Poolside wypuszcza model do kodu, który mieści się na jednej maszynie

Dostała pusty folder i zadanie: zbudować w JavaScripcie silnik przeglądarki, który renderuje HTML na płótnie obok prawdziwej przeglądarki. Przez 50 minut i 181 kroków, bez ani jednej podpowiedzi od człowieka, Laguna S 2.1 napisała od zera w czystym JavaScripcie parser HTML, silnik kaskady CSS i renderer rysujący stronę na płótnie. A że sama nie widzi obrazu, odpaliła w tle Chromium i porównała swój wynik z prawdziwą przeglądarką, piksel po pikselu, żeby w ogóle sprawdzić, czy jej wyszło. Najbardziej liczy się jednak to, czym to zrobiła: modelem, który mieści się na jednej maszynie.

Lagunę wypuściło Poolside, firma Jasona Warnera, byłego szefa technicznego GitHuba, która na półtora roku prawie zniknęła z branżowego radaru, żeby zbudować to, co Warner nazywa "fabryką modeli": przemysłowy proces wypuszczający kolejne wersje co pięć tygodni. Model jest zbudowany w architekturze MoE, więc choć ma 118 miliardów parametrów, na każdy token uruchamia tylko 8 miliardów i liczy się jak model kilkanaście razy mniejszy. Okno kontekstowe sięga miliona tokenów, więc mieści w sobie spory projekt naraz. Na Terminal-Bench 2.1, teście mierzącym długie zadania, w których agent działa przez terminal, dostał 70,2%, czyli tyle, ile zwykle wyciągają modele wielokrotnie od niego większe.

I na tym polega cała historia. Największy model do kodu z otwartymi wagami, Kimi K3 od chińskiego Moonshota (wagi mają trafić do pobrania 27 lipca), ma 2,8 biliona parametrów, 20 razy więcej. Laguna gra o te same zadania w rozmiarze, który realnie postawisz u siebie: Unsloth, projekt od odchudzania modeli pod domowy sprzęt, przygotował już skwantyzowaną wersję pod llama.cpp, schodzącą do jakichś 40 GB, którą odpali mocniejszy domowy pecet. Dla programisty to konkretna zmiana w rachunku. Albo wynajmujesz model z chmury, płacisz za każdy token i godzisz się, że to dostawca decyduje, co i kiedy możesz uruchomić. Albo trzymasz wagi u siebie, robisz z nimi, co chcesz, i płacisz za to własnym sprzętem oraz obsługą. Dotąd ta druga droga w agentowym kodowaniu oznaczała albo model wyraźnie słabszy, albo serwerownię. Laguna tę granicę przesuwa.