Planista w chmurze i wykonawcy na karcie graficznej w Antigravity SDK

Google ma Antigravity, swoje środowisko programistyczne, w którym agenty AI same planują i wprowadzają zmiany w kodzie, oraz Antigravity SDK, czyli bibliotekę dla Pythona, z której zbudujesz takiego agenta we własnym narzędziu. Do tej pory agent z tego SDK myślał w chmurze, więc każdy plik, który mu pokazałeś, trafiał na serwery Google, a każde pytanie kosztowało tokeny. 23 września Google ogłosił, że SDK potrafi już pracować na modelu uruchomionym na twoim komputerze. Na początek jest to Gemma 4 26B A4B, otwarty model Google, który na twojej karcie graficznej uruchamia LiteRT, firmowy silnik Google do modeli lokalnych. Oznaczenie mówi, że model ma około 26 miliardów parametrów, ale przy każdym kroku pracuje tylko około 4 miliardów z nich, co przyspiesza odpowiedzi, choć cały model i tak musi zmieścić się w pamięci.

Sam agent działający offline mnie nie rusza, bo Ollama i LM Studio, popularne darmowe programy do uruchamiania otwartych modeli na własnym komputerze, pozwalają na to od dawna. Nowy jest układ z pokazu: duży model w chmurze tylko planuje, a ciężką robotę na kodzie wykonują lokalne modele, które niczego nie wysyłają. Uważam, że to rozsądny kierunek dla zespołów, które nie mogą wypuścić kodu poza firmę, ale pokaz, którym Google go uzasadnia, jest bardzo skromny.

Planista w chmurze widzi tylko nazwy plików