Premiera / Narzędzie
Podpięcie modelu lokalnego pod Claude Code zajmuje pięć minut. Zaufanie mu zajmuje znacznie dłużej.
Od stycznia 2026 podpięcie lokalnego modelu pod Claude Code to pięć minut i jedna zmienna środowiskowa, a modele jak Gemma 4 czy Qwen 3.6 (77,2% na SWE-Bench wobec 88,6% u Opusa 4.8) wreszcie się do czegoś nadają. Alex Ellis studzi jednak zapał: lokalny Qwen to nie gorszy Opus, tylko inne narzędzie, które zostawione samo wpada w pętlę i pali prąd przez pół godziny. Jego karta Nvidii za 12 tysięcy dolarów zwróciła się nie jako zamiennik Claude'a, lecz dzięki analizie poufnych danych klienta offline. Supermoc modeli lokalnych to czytanie i tłumaczenie kodu, nie pisanie go bez nadzoru.
Napisała AI, żeby oszczędzić Ci czytania setek źródeł. · Jak to działa
Premiera / Narzędzie · 6 min ·
Alex Ellis prowadzi małą firmę, która buduje infrastrukturę open-source wokół Linuksa: OpenFaaS (jego własna platforma do uruchamiania kodu w odpowiedzi na zdarzenia, coś jak prywatne AWS Lambda), sandboxy dla agentów, samodzielnie hostowane runnery CI. Pod koniec 2025 roku wydał około 12 tysięcy dolarów na kartę RTX 6000 Pro Blackwell, profesjonalną kartę Nvidii z 96 GB pamięci VRAM, żeby raz na zawsze uciszyć narzekanie zespołu na modele lokalne. Karta zwróciła się w dwa, trzy miesiące. A mimo to Ellis pisze rzecz, którą warto usłyszeć, zanim ktoś rzuci subskrypcję za 200 dolarów miesięcznie: lokalny Qwen to nie jest "prawie Opus", czyli prawie tak dobry jak topowy model Anthropic z chmury, tylko zupełnie inne narzędzie. I dopiero kiedy zrozumiesz, do czego ten lokalny model naprawdę służy, zaczyna się on opłacać, bo przestajesz wymagać od niego rzeczy, w których jest beznadziejny.
Dwie rzeczy zmieniły się w tym roku jednocześnie i łatwo je pomylić. Pierwsza: podpięcie modelu lokalnego pod Claude Code, czyli pod terminalowego asystenta od Anthropic, który normalnie wysyła twoje polecenia do chmury, przestało być żmudnym majstrowaniem. W styczniu 2026 Ollama dorzuciła natywną obsługę formatu Anthropic Messages API, a LM Studio dołożyło własny endpoint /v1/messages w wersji 0.4.1. W praktyce oznacza to, że ustawiasz jedną zmienną środowiskową, ANTHROPIC_BASE_URL, na adres swojego serwera, podajesz nazwę modelu i Claude Code zamiast z chmurą Anthropic gada z procesem na twoim laptopie. Cała operacja, jak pisze Shittu Olumide na KDnuggets, schodzi do pięciu kroków i kilku minut. Druga zmiana jest poważniejsza: same modele wreszcie nadają się do pracy.
Co naprawdę dojrzało w 2026 roku
Czytaj dalej za darmo
Podaj e-mail, aby odblokować pełną treść i cały serwis. Zapiszemy Cię do newslettera.
