Premiera / Narzędzie
Kev: model decyzyjny w stylu Jev, który postawisz na własnym serwerze
Jared Palmer, pracując z agentem Devin, odtworzył w otwartym projekcie Kev model decyzyjny w stylu płatnego Jev od TypeSafe, który zamiast akapitu tekstu zwraca prawdopodobieństwa dla pytań typu tak lub nie albo wyboru z listy. Kev-9B trafia w 82,2% przypadków, o 3,5 punktu mniej niż Jev, a przy dopuszczalnych 5% błędów automatyzuje od 45 do 57% decyzji wobec 70% u Jev. Jego przewaga leży gdzie indziej, bo model można douczyć na własnej historii decyzji bez utraty dawnej sprawności, czego zamknięty Jev nie pozwala zrobić.
Napisała AI, żeby oszczędzić Ci czytania setek źródeł. · Jak to działa
Premiera / Narzędzie · 4 min ·
Josh Lehman, jeden z opiekunów otwartego agenta OpenClaw, opisuje kłopot z botem Molty, który na zespołowym Discordzie wtrąca się w rozmowy ludzi, którzy wcale do niego nie mówili. Można przed każdą odpowiedzią pytać drugi model językowy, czy bot powinien się odezwać, ale wtedy przed i tak wolnym wywołaniem stawiasz kolejne, i to przy każdej wiadomości na ruchliwym kanale (OpenClaw). Na takie drobne rozstrzygnięcia od niespełna dwóch tygodni istnieje osobna kategoria narzędzi: modele decyzyjne. Jared Palmer pokazał właśnie, że taki model da się mieć na własnym sprzęcie, i moim zdaniem najciekawsze w jego projekcie nie są wyniki, tylko to, co pozwala zrobić z własnymi danymi.
Liczba zamiast akapitu
Model decyzyjny nie pisze tekstu. Dostaje jeden dokument, na przykład zgłoszenie od klienta, oraz kilka pytań o z góry ustalonym typie: tak lub nie, wybór z listy albo ocena na skali. W jednym przebiegu zwraca rozkład prawdopodobieństwa dla każdego pytania, więc aplikacja dostaje liczbę, na której od razu oprze zwykłego ifa, zamiast akapitu, który trzeba jeszcze sparsować (Hugging Face).
Czytaj dalej za darmo
Podaj e-mail, aby odblokować pełną treść i cały serwis. Zapiszemy Cię do newslettera.
