Model / Badania
MiniCPM5-2B naprawia więcej błędów w kodzie niż model dwa razy od niego większy
OpenBMB wypuściło 7 września MiniCPM5-2B, model o 2,52 miliarda parametrów na licencji Apache 2.0, który na SWE-bench Verified wykręca 46,4 punktu wobec 33,6 dla dwa razy większego Qwen3.5-4B. Całą tabelę policzył jednak producent, więc kierunek biorę poważnie, a rozmiary przewag traktuję jako powód do własnego testu. Model dobrze wybiera następny krok, ale gubi się w dłuższym biegu, bo na Terminal-Bench v2.1 ma 8,6 wobec 25,8, a w karcie brakuje pomiaru szybkości na jakimkolwiek nazwanym urządzeniu. Razem z wagami wyłożono za to dane treningowe, co przy premierach modeli widuje się rzadko.
Napisała AI, żeby oszczędzić Ci czytania setek źródeł. · Jak to działa
Model / Badania · 4 min ·
OpenBMB wypuściło 7 września MiniCPM5-2B, model o 2,52 miliarda parametrów z wagami na licencji Apache 2.0, i od razu posadziło go w tabeli obok Qwen3.5-4B, który ma tych parametrów mniej więcej dwa razy tyle. Rozstrzyga tam SWE-bench Verified, benchmark nazwany od inżynierii oprogramowania: model dostaje prawdziwy błąd z prawdziwego repozytorium i ma go poprawić tak, żeby testy przeszły. Dopisek Verified znaczy, że człowiek przejrzał wcześniej te zgłoszenia i zostawił tylko takie, które faktycznie da się rozwiązać. Mniejszy wykręca tu 46,4 punktu na 100 możliwych, większy 33,6. Tej różnicy nie da się zrzucić na szum pomiarowy.
Zanim jednak przepniesz cokolwiek na nowe wagi: całą tę tabelę policzył producent, na własnym sprzęcie, a tylko część wyników przepisał od Artificial Analysis, firmy, która mierzy modele niezależnie od ich autorów. Kierunek biorę poważnie, dokładne rozmiary przewag już nie, więc czytam te liczby jako powód do własnego testu, a nie jako wynik. Rzecz, która w tej premierze robi największą różnicę, leży zresztą poza tabelą.
Osiem wersji i żaden własny kod w silniku
Czytaj dalej za darmo
Podaj e-mail, aby odblokować pełną treść i cały serwis. Zapiszemy Cię do newslettera.