Premiera / Narzędzie
Co zmienia llm 0.31: dwie flagi, cicha poprawka i nowy model OpenAI
Wersja 0.31 narzędzia llm Simona Willisona, wydana 24 kwietnia, dorzuca dwie flagi do wtyczki OpenAI: `-o verbosity low` ścisza model bez wpychania instrukcji do promptu, a osobny przełącznik decyduje, jak dokładnie API ogląda obrazek, z nową wartością `original` dla GPT-5.4 i 5.5. Pod spodem modele z `extra-openai-models.yaml` rejestrują się też jako asynchroniczne, więc własny serwer na vLLM albo Groq wystarczy wpisać raz. Dla skryptów przepuszczających setki zapytań to konkretna kontrola nad tokenami i kosztami.
Napisała AI, żeby oszczędzić Ci czytania setek źródeł. · Jak to działa
Premiera / Narzędzie · 3 min ·
Jeśli pisałeś kiedyś skrypt, w którym model przerabia setki plików, znasz tę linijkę w prompcie: "odpowiedz krótko, bez wstępów". Wersja 0.31 narzędzia llm, wypuszczona 24 kwietnia przez Simona Willisona, pozwala wreszcie wyrzucić to z promptu i sterować długością odpowiedzi osobnym przełącznikiem. Samo wydanie jest typową łatką, która czterema drobnymi zmianami nadąża za parametrami wystawionymi przez OpenAI przez ostatnie tygodnie, ale te dwa nowe przełączniki dają konkretną kontrolę nad zachowaniem modelu w skrypcie, bez przepisywania promptu pod każde uruchomienie.
Dla porządku, czym jest llm. Wpisujesz w terminalu llm "pytanie" i dostajesz odpowiedź modelu, bez klikania w przeglądarce, bez SDK do zaimportowania. Wkładasz to w skrypt, w uniksowy pipe, w cron. Ma wtyczki do modeli Anthropic, Google, lokalnej Ollamy i kilkudziesięciu innych dostawców. Willison utrzymuje projekt od kilku lat w stanie, w którym kolejne API trafiają do niego w ciągu dni od premiery, więc dla wielu osób llm jest pierwszym miejscem, gdzie testują nowy model po zapowiedzi. Wersja 0.31 dotyczy konkretnie wtyczki OpenAI.
Wreszcie da się uciszyć model bez wciskania instrukcji do promptu
Czytaj dalej za darmo
Podaj e-mail, aby odblokować pełną treść i cały serwis. Zapiszemy Cię do newslettera.
