Copilot Fusion sam wybiera model i liczy rachunek w kredytach bez cennika

Wystarczy przegląd kodu dłuższy o 5,4 sekundy, żeby zniknęła cała oszczędność na GPT-6.1 Terra, modelu, który OpenAI przeceniło o połowę. Tak wylicza Sanchit Vir Gogia z Greyhound Research, a jego rachunek pokazuje, że płaci się za zadanie, a nie za token: za długość myślenia, trafienia w cache i za to, kto wybiera model. W środku także Copilot Fusion, rachunek za Sonneta i Opusa, kulisy włamania do LiteLLM i model Alibaby, który próbował wysłać plik do Pekinu.

GPT-6.1 Terra za 1 dolara za milion tokenów: tanio, ale głównie do rutyny