SmartDigest.ai Tworzone przez AI, żeby nadążyć za AI
Zapisz się

Zapisz się do newslettera

Co tydzień najważniejsze newsy AI prosto na Twój e-mail. Wybierz tematy, które Cię interesują.

Premiera / Narzędzie

Not Diamond trenuje router między modelami na twoich danych z ewaluacji

Not Diamond to framework, który zamiast ręcznie pisanych reguł sam uczy się kierować każde zapytanie do najlepszego z kilku modeli. Podajesz plik CSV z zapytaniami, odpowiedziami modeli kandydujących i własnymi ocenami tych odpowiedzi, wołasz train_custom_router i dostajesz identyfikator, którego select_model używa potem przy każdym prompcie. W przykładzie kandyduje pięć modeli, w tym GPT-5 i Claude Opus 4, a oceny pochodzą z HumanEval. Sednem są własne dane, ale to ich zebranie jest najdroższą częścią, a obietnica, że router pobije każdy model, to deklaracja producenta bez liczb.

Napisała AI, żeby oszczędzić Ci czytania setek źródeł.  ·  Jak to działa

Premiera / Narzędzie  ·  3 min  · 

Not Diamond trenuje router między modelami na twoich danych z ewaluacji
Ilustrację przygotowała AI.

Kiedy budujesz aplikację na kilku modelach naraz, szybko trafiasz na tę samą ścianę: żaden pojedynczy model nie wygrywa ze wszystkimi na każdym zapytaniu. Jeden lepiej radzi sobie z kodem, drugi jest tańszy przy prostych pytaniach, trzeci pilnuje formatu, którego wymagasz w odpowiedzi. Zwykle godzisz się z kompromisem i wybierasz jeden model do wszystkiego albo ręcznie piszesz reguły: to zapytanie do Claude'a, tamto do taniego GPT-5 mini. Not Diamond, framework opisany w świeżym poradniku startowym firmy, proponuje trzecią drogę: zamiast pisać te reguły ręcznie, wytrenuj router, który sam nauczy się, który model wywołać dla którego zapytania.

Router uczy się z twoich własnych ocen

Not Diamond potrzebuje od ciebie trzech rzeczy, wszystkich w jednym pliku CSV. Po pierwsze, zestawu zapytań, najlepiej takich, jakie naprawdę pojawiają się w twojej aplikacji. Po drugie, odpowiedzi, które na te zapytania dały modele kandydujące, między którymi chcesz przełączać. Po trzecie, ocen tych odpowiedzi, czyli liczb z dowolnej metryki, jaką sam wybierzesz: może to być zgodność z testami, może trzymanie się twoich wytycznych do pisania kodu, cokolwiek, co potrafisz zmierzyć.

Czytaj dalej za darmo

Podaj e-mail, aby odblokować pełną treść i cały serwis. Zapiszemy Cię do newslettera.

Powiązane

OpenRouter sam wybiera model do kodu, ty podajesz tylko próg jakości
Premiera / Narzędzie

OpenRouter sam wybiera model do kodu, ty podajesz tylko próg jakości

4 min

OpenRouter uruchomił router Pareto Code: zamiast wskazywać konkretny model do pisania kodu, podajesz jedną liczbę, min_coding_score od 0 do 1, a router sam dobiera najtańszy model mieszczący się w progu jakości według rankingu Artificial Analysis. Wybrany model zostaje przypięty do rozmowy na pięć minut, żeby nie stracić prompt cache. Pomysł oszczędza czas, gdy modele wymieniają się co tydzień, ale ma granice: nie ustawisz twardego limitu kosztu, a poziom jakości definiuje jeden uśredniony benchmark, który nie mówi, czy model trzyma się akurat na twoim kodzie.
Cursor sam wybiera model do każdego zapytania i obiecuje 60% oszczędności
Premiera / Narzędzie

Cursor sam wybiera model do każdego zapytania i obiecuje 60% oszczędności

4 min

Cursor Router, uruchomiony w tym tygodniu, kieruje każde zapytanie do najtańszego modelu, który sobie z nim poradzi: rutyna trafia do tanich modeli, a trudne problemy do najdroższych. Jego przewagą są dane, których nie ma nikt inny: ponad 600 tysięcy prawdziwych zapytań o kod i wiedza, czy wygenerowany kod został w projekcie. Reklamowane 60% oszczędności liczone jest wobec Fable 5, a nie wobec realnych zespołów; koszt jednego commita w trybie Balance to 4,63 dolara wobec 7,34 na samym Opus 4.8. Router działa jednak tylko w planach Teams i Enterprise, więc samodzielnego programistę omija.
Microsoft trenuje prompty agentów tak, jak trenuje się sieci neuronowe
Premiera / Narzędzie

Microsoft trenuje prompty agentów tak, jak trenuje się sieci neuronowe

4 min

Microsoft Research wypuścił SkillOpt, narzędzie, które zamiast dotrenowywać model, trenuje sam plik z instrukcją dla agenta. Osobny optymalizator proponuje zmiany w dokumencie i zachowuje tylko te, które realnie podnoszą wynik na odłożonym zbiorze zadań walidacyjnych. Na sześciu benchmarkach i siedmiu modelach SkillOpt wypada najlepiej lub na równi we wszystkich 52 przypadkach, a na GPT-5.5 dorzuca średnio ponad 23 punkty skuteczności. Efektem jest jeden plik best_skill.md, bez dodatkowych kosztów w trakcie pracy. Wyniki pochodzą jednak od autorów metody.