Model / Badania
Otwarty model decyzyjny na Macu, prawie tak celny jak zamknięty Jev
Bespoke Labs wydało Nimble, otwarty model zbudowany na Qwen3.5-9B, który wybiera odpowiedź z listy opcji lokalnie, na Macu albo karcie NVIDIA, więc nie trzeba parsować JSON-a zwróconego przez API. Na 324 przykładach testowych zgodził się z etykietami w 90,1% przypadków, a zamknięty Jev firmy TypeSafe w 93,2%, tyle że etykiety są syntetyczne, a test wąski. Do wstępnej klasyfikacji zgłoszeń to rozsądny wybór, ale przy decyzjach o pieniądzach lepiej najpierw sprawdzić go na własnych danych, bo bywa zbyt pewny siebie.
Napisała AI, żeby oszczędzić Ci czytania setek źródeł. · Jak to działa
Model / Badania · 4 min ·
Weźmy zgłoszenie, które trafia do systemu obsługi klienta: "Usługa płatności nie działa u żadnego klienta". Aplikacja musi szybko zdecydować, czy to sprawa pilna i czy ktoś z zespołu powinien ją przejrzeć. Zwykle wysyłamy taki tekst do dużego modelu przez API, prosimy o odpowiedź w JSON-ie i piszemy kod, który ją parsuje, licząc, że pole z priorytetem nie wróci w formie, której nikt nie przewidział. Bespoke Labs, firma, która wcześniej wydała mały model do sprawdzania, czy twierdzenie wynika z tekstu, opublikowała Nimble: otwarty model, który podejmuje takie decyzje lokalnie, na Macu z procesorem Apple albo na karcie NVIDIA.
Punktem odniesienia jest Jev, zamknięty model firmy TypeSafe, dostępny tylko przez API i zbudowany właśnie do takich decyzji: tak jak Nimble, od razu wybiera odpowiedź z listy i nie rozpisuje przy tym rozumowania. Autorzy Nimble podkreślają, że nie uczyli swojego modelu na odpowiedziach Jeva, i zamiast tego pokazują, jak samodzielnie zbudować dane, wytrenować model i uruchomić coś podobnego. Moim zdaniem to jest najcenniejsza część tej publikacji, bo sam wynik pochodzi z testu, który autorzy nazywają wąskim.
Odpowiedź bez jednego wygenerowanego słowa
Czytaj dalej za darmo
Podaj e-mail, aby odblokować pełną treść i cały serwis. Zapiszemy Cię do newslettera.
