Model / Badania
System wieloagentowy Cursora i NVIDII zoptymalizował 235 kerneli CUDA średnio o 38%
Cursor i NVIDIA puścili wieloagentowy harness na 27 kartach Blackwell B200, który przez trzy tygodnie pisał kernele CUDA dla 235 problemów z 124 modeli open-source. Czołówka mówi o 38% średniego przyspieszenia, ale punktem odniesienia jest PyTorch zoptymalizowany pojedynczym agentem, nie cuBLAS, a mediana wskaźnika SOL wyniosła 0,56. Na mnożeniu macierzy BF16 agent dotarł do 86% wydajności cuBLAS, na attention dla Llamy 3.1 8B przebił FlashInfer o 84%. Ciekawszy test w CuTe DSL pozostał bez liczb.
Napisała AI, żeby oszczędzić Ci czytania setek źródeł. · Jak to działa
Model / Badania · 4 min ·
Cursor i NVIDIA opublikowali wspólny eksperyment, w którym wieloagentowy harness przez trzy tygodnie pisał i optymalizował kernele CUDA od zera, mając do dyspozycji 27 kart Blackwell B200 oraz 235 problemów wyciągniętych z 124 produkcyjnych modeli open-source, w tym DeepSeek, Qwen i Stable Diffusion. Wynik, który trafił do nagłówków, to 38% średniej geometrycznej przyspieszenia, z 19% problemów, w których agent przebił punkt odniesienia ponad dwukrotnie.
Zanim z tego wyjdzie historia, że agenty właśnie wyparły specjalistów od kerneli, warto sprawdzić, jak ten punkt odniesienia jest skonstruowany. To nie jest kod napisany przez człowieka z biblioteki cuBLAS, tylko ten sam program w PyTorchu zoptymalizowany przez pojedynczego agenta. To więc porównanie systemu wieloagentowego z agentem solo, a nie z doświadczonym inżynierem od kerneli. Średnia geometryczna kryje też rozrzut: na 63% problemów agent przebił punkt odniesienia, na pozostałych 37% nie ruszył wyniku. Wskaźnik SOL ma skalę od 0,5 dla PyTorcha z pojedynczym agentem do 1,0 dla fizycznego sufitu Blackwella, a jego mediana wyniosła 0,56. Czyli przeciętne rozwiązanie ledwo wystawało ponad punkt startu.
Cała koordynacja w jednym pliku markdown
Czytaj dalej za darmo
Podaj e-mail, aby odblokować pełną treść i cały serwis. Zapiszemy Cię do newslettera.