Premiera / Narzędzie
Envoy AI Gateway 1.0: jeden adres dla wszystkich modeli i pierwsza brama dla MCP
Tetrate wydał wersję 1.0 Envoy AI Gateway, otwartej bramy stojącej na sprawdzonym serwerze Envoy z Lyfta, która chowa OpenAI, Anthropic, Gemini czy Mistral za jednym interfejsem zgodnym z formatem OpenAI, więc przerzucenie ruchu na tańszego dostawcę staje się zmianą wpisu w konfiguracji. Nowością jest wbudowana obsługa MCP, czyli wspólny punkt, w którym administrator filtruje, z jakich narzędzi może korzystać dany agent. Współzałożyciel Varun Talwar zapewnia, że publiczny kod chodzi na produkcji w Bloombergu, ale poza współtwórcami projektu wiarygodnych referencji wciąż brakuje.
Napisała AI, żeby oszczędzić Ci czytania setek źródeł. · Jak to działa
Premiera / Narzędzie · 4 min ·
Kiedy aplikacja wysyła zapytanie do jednego modelu, kod jest prosty. Kiedy zaczyna gadać z OpenAI, Anthropic, Gemini i trzema mniejszymi dostawcami naraz, każdy z osobnym API, własnym sposobem liczenia limitów i innym formatem klucza, ten kod zamienia się w plątaninę warunków i obejść rozsianą po całej bazie. Tetrate, firma sprzedająca komercyjne narzędzia do zarządzania ruchem sieciowym, ogłosił właśnie wersję 1.0 Envoy AI Gateway, bramy o otwartym kodzie, która ma tę plątaninę zwinąć w jeden punkt na styku aplikacji z modelami. Skoro to producent ogłasza dojrzałość własnego projektu, do samego słowa "1.0" wrócę pod koniec ostrożniej, niż chciałby Tetrate. Ale najpierw to, co brama faktycznie robi.
Cały ruch między twoim kodem a modelami przechodzi teraz przez jedno miejsce: tam pilnujesz, kto może sięgnąć po który model, ile to kosztuje i czy w ogóle działa. Brama stoi na Envoy, serwerze pośredniczącym, który powstał w Lyft w 2015 roku i od lat przepuszcza przez siebie ruch Netfliksa, Spotify czy Airbnb. Envoy AI Gateway bierze ten sprawdzony fundament i dokłada do niego rzeczy, których nikt nie potrzebował, dopóki ruch nie zaczął płynąć do modeli językowych.
Jeden adres zamiast sześciu integracji
Czytaj dalej za darmo
Podaj e-mail, aby odblokować pełną treść i cały serwis. Zapiszemy Cię do newslettera.
