LM Studio wypuszcza Bionic, lokalnego agenta, który nie oddaje twojego kodu w chmurę

LM Studio przez ostatnie lata było najprostszym sposobem, żeby uruchomić duży model językowy na własnym komputerze: pobierasz aplikację, wybierasz model z listy, piszesz w oknie czatu i nic nie wychodzi poza twój dysk. Sięgali po nie głównie entuzjaści i ludzie, którym zależało na prywatności. Firma poszła o krok dalej i 22 lipca wypuściła Bionic. To agent, który stoi na tej samej lokalnej infrastrukturze co czat, ale zamiast tylko odpowiadać, wykonuje zadania: pisze kod, redaguje dokumenty, składa prezentacje i pliki PDF.

Trzyma to wszystko jedna idea: model i twoje dane zostają na komputerze, zamiast wędrować przez cudze serwery. To właśnie jest local-first. Bionic słucha twojego głosu i transkrybuje go lokalnie, korzystając z Voxtrala, modułu rozpoznawania mowy od francuskiej firmy Mistral. Samą robotę wykonuje kilkanaście otwartych modeli zainstalowanych lokalnie, a agent pracuje w sandboxie, odcięty od reszty komputera. Domyślnie więc nie widzi twoich plików, dopóki sam mu na to nie pozwolisz. Każda zmiana zapisuje się sama, więc wynik można spokojnie dopracowywać razem z modelem.

Brzmi jak kolejny agent do kodu, tyle że postawiony na głowie: zamiast wysyłać twój kod do chmury, ściąga model do ciebie. Mnie jednak bardziej niż sam agent zajmuje to, co LM Studio dorzuciło tego samego dnia w aktualizacji 0.4.20.