Model / Badania
Muse Spark Open: 816 miliardów parametrów Mety na biurku, ale bez pomiarów prędkości
Meta udostępniła wagi Muse Spark Open, modelu o 816 miliardach parametrów, z których przy każdym tokenie pracuje tylko 42 miliardy, dzięki czemu skompresowana wersja mieści się na dwóch Mac Studio z M5 Ultra. Z mojego rachunku wychodzi tam teoretyczny sufit około 28 tokenów na sekundę, co wystarczy agentowi pracującemu w tle, ale nie podpowiedziom w edytorze. Zamiast pomiarów Meta pokazała agenta poprawiającego klienta Mastodona Ice Cubes, a licencja ma ograniczenia komercyjne, których nie precyzuje.
Napisała AI, żeby oszczędzić Ci czytania setek źródeł. · Jak to działa
Model / Badania · 4 min ·
Meta wypuściła wagi Muse Spark Open, modelu o 816 miliardach parametrów, i od razu podpowiedziała, na czym go postawić: na dwóch komputerach Mac Studio z układem M5 Ultra, spiętych frameworkiem MLX od Apple. Firma nazywa go najmocniejszym amerykańskim modelem z otwartymi wagami, a samo zastrzeżenie "amerykańskim" mówi sporo, bo Meta nie twierdzi, że wyprzedza wszystkich, tylko że prowadzi u siebie. To pierwsza obietnica. Mnie bardziej interesuje druga, ta o modelu na biurku programisty, bo właśnie jej najtrudniej uwierzyć na słowo, a twardych liczb o prędkości w ogłoszeniu po prostu nie ma.
Co właściwie trafiło do sieci
Muse Spark Open od początku trenowania rozumie tekst i obraz, ma okno kontekstowe na milion tokenów i według Mety powstał z myślą o programowaniu oraz o długich zadaniach, w których model sam planuje kolejne kroki i po drodze wywołuje narzędzia. Muse Spark to rodzina modeli Mety, z której dotąd można było korzystać tylko przez API firmy. Teraz wagi wersji Open leżą na Hugging Face w dwóch wariantach: w pełnej precyzji BF16 oraz w skompresowanym formacie NVFP4, który zapisuje każdy parametr na czterech bitach i jest przygotowany pod nowsze karty NVIDIA.
Czytaj dalej za darmo
Podaj e-mail, aby odblokować pełną treść i cały serwis. Zapiszemy Cię do newslettera.
