Premiera / Narzędzie
OpenAI szuka nadużyć w waszych sesjach, nie zaglądając do treści
OpenAI ogłosiło 19 sierpnia Private Safety Processing: automat zestawia ze sobą powiązane sesje w API i wysyła do firmy samą etykietę ryzyka, bez ani jednego zdania z treści, więc zerowa retencja zaczyna znaczyć nie tyle "nic nie zostaje", co "nic nie zostaje dla ludzi". Anthropic poszedł w lipcu dokładnie odwrotnie i przy najmocniejszych modelach trzyma sesje przez 30 dni. Brak zapisu zamienia jednak problem dowodowy w problem zaufania, bo po fałszywym alarmie nie macie czym się wytłumaczyć, o ile sami nie prowadzicie własnego rejestru.
Napisała AI, żeby oszczędzić Ci czytania setek źródeł. · Jak to działa
Premiera / Narzędzie · 4 min ·
Ktoś, kto chce zbudować złośliwe oprogramowanie za pomocą modelu, nie pyta o to w jednym prompcie. Rozkłada robotę na wiele sesji rozrzuconych w czasie, czasem na kilka kont, i każda z osobna wygląda jak zwyczajna praca nad bezpieczeństwem. Dopiero złożone razem układają się w atak. To jest ta sytuacja, której dotychczasowe zabezpieczenia w API OpenAI nie wyłapywały, i od niej trzeba zacząć, żeby zrozumieć, co firma ogłosiła 19 sierpnia.
Klienci objęci zerową retencją danych mają właśnie tę obietnicę, że po obsłużeniu żądania nie zostaje nic: ani prompt, ani odpowiedź modelu, ani kopia do wglądu dla pracowników OpenAI, ani materiał do trenowania, chyba że ktoś sam się na to zgodzi. Za tę obietnicę płaci się jednak nie tylko w rachunku. Skoro nie zostaje żaden zapis, to w dniu, w którym trzeba będzie pokazać, o co naprawdę pytaliście model i co wam odpowiedział, nie macie tego skąd wziąć, chyba że prowadzicie własny rejestr.
Sygnał, który nie niesie treści
Czytaj dalej za darmo
Podaj e-mail, aby odblokować pełną treść i cały serwis. Zapiszemy Cię do newslettera.
