Microsoft-Decision-1 wybiera z listy zamiast pisać, a w niezależnym teście zajął szóste miejsce z czternastu

Microsoft wypuścił 9 października model, który nie pisze ani jednego zdania. Microsoft-Decision-1 dostaje opis sytuacji i listę dozwolonych odpowiedzi, a przy każdej z nich zwraca prawdopodobieństwo, które program może od razu wrzucić do zwykłego warunku if. Do tej pory takie drobne decyzje w agencie, na przykład którym modelem obsłużyć zapytanie albo czy ponowić nieudany krok, zlecało się zwykle dużemu modelowi językowemu: prosiło się go o odpowiedź jednym słowem i liczyło, że posłucha. Sam pomysł uważam za rozsądny. Liczby, którymi Microsoft go sprzedaje, traktuję jednak jak deklarację producenta, bo pierwszy niezależny test dał mu szóste miejsce na czternaście modeli i przyspieszenie dużo mniejsze, niż obiecywano.

Jak zadaje się pytanie modelowi Decision-1

Każde zapytanie ma dwie części: stan, czyli opis tego, co się dzieje, oraz zestaw nazwanych pytań. Pytanie typu noul wymaga odpowiedzi tak lub nie, typu choice wyboru jednej z kilku opcji, a typu score oceny na skali. W przewodniku na blogu Microsoft Tech Community autor opisuje awarię: usługa płatności nie działa od 20 minut, klienci nie mogą dokończyć zakupów i nie ma obejścia. Na pytanie, czy incydent wymaga natychmiastowej reakcji, model odpowiada "tak" z pewnością 99,75%, a w ocenie priorytetu daje mu niemal najwyższy z trzech poziomów. Za dolara można w ten sposób podjąć ponad 275 tysięcy takich decyzji, bo całe zapytanie zmieściło się w niecałych stu tokenach, a płaci się tylko za te wejściowe.