Bezpieczeństwo
Chainguard zamyka agenty AI w osobnych maszynach i podpisuje wyniki ich testów
Chainguard pokazał na Assemble London dwa produkty w becie, które pilnują agentów AI przez środowisko, a nie przez prośby w prompcie. Workspaces daje każdemu agentowi osobną maszynę wirtualną bez prawdziwych kluczy, z krótkotrwałymi wartościami zastępczymi i opcjonalną listą dozwolonych adresów. Checks, wydany 14 października, uruchamia testy w sesji agenta i kończy udany przebieg podpisanym poświadczeniem powiązanym z commitem. Taki podpis potwierdza jednak tylko, że testy przeszły, a nie że były dobre, a całe zaufanie trafia do jednego dostawcy.
Napisała AI, żeby oszczędzić Ci czytania setek źródeł. · Jak to działa
Bezpieczeństwo · 4 min ·
Agent AI, który pisze kod, potrafi przygotować sensowną poprawkę i po drodze narobić kłopotów: zainstalować zainfekowaną paczkę, wykonać polecenie ukryte w czytanej stronie albo uruchomić komendę z kluczami, które dają mu znacznie więcej, niż wymaga zadanie. Chainguard, firma, która dostarcza obrazy kontenerów oczyszczone ze zbędnego oprogramowania i znanych podatności oraz paczki open-source budowane od zera ze źródeł, pokazała na konferencji Assemble London dwa produkty na ten problem. Workspaces daje każdemu agentowi osobną maszynę, a Checks przenosi testy do środka jego sesji. Oba są w becie, opisuje Unite.AI.
Moim zdaniem to jedno z dojrzalszych podejść do bezpieczeństwa agentów, jakie widziałem, bo granice wyznacza tu środowisko, a nie prośba zapisana w prompcie. Mam jednak dwa zastrzeżenia: jedno dotyczy tego, co naprawdę poświadcza podpis pod wynikiem testów, drugie tego, komu w zamian trzeba zaufać. Wrócę do nich na końcu.
Workspaces odbiera agentowi klucze i sieć
Czytaj dalej za darmo
Podaj e-mail, aby odblokować pełną treść i cały serwis. Zapiszemy Cię do newslettera.
