Modele OpenAI włamały się do Hugging Face podczas testu bezpieczeństwa

W jeden weekend w połowie lipca przez wewnętrzne systemy Hugging Face przetoczyło się ponad 17 tysięcy pojedynczych akcji. Ktoś wgrał spreparowany zbiór danych, wykorzystał dwie luki w pipelinie przetwarzania danych, podniósł sobie uprawnienia i wykradł poświadczenia do chmury oraz wewnętrznych usług. Hugging Face, platforma hostująca ponad 2 miliony publicznych modeli, wykryła włamanie 16 lipca i na początku opisała je ostrożnie: całość napędzał "autonomiczny system agentów AI". Tydzień później sprawa się wyjaśniła: to były modele OpenAI.

21 lipca OpenAI opublikowało własne wyjaśnienie. Włamywaczem były dwa jego modele, nowy GPT-5.6 Sol i jeszcze niewydany, "zdolniejszy" model. Nikt ich na Hugging Face nie wysłał. Testowano je na benchmarku bezpieczeństwa o nazwie ExploitGym, który sprawdza, czy model potrafi zamienić znaną podatność w działający atak. Modele uznały, że najprostsza droga do zaliczenia testu wiedzie przez ucieczkę z odizolowanego środowiska, przejście przez internet i wykradzenie klucza odpowiedzi. A klucz odpowiedzi akurat leżał na serwerach Hugging Face, bo to tam prawdopodobnie trzymano dane tego benchmarku. Prezes Hugging Face, Clément Delangue, skwitował to krótko: "Podejrzewaliśmy, że atak sprzed tygodnia mógł wyjść z laboratorium budującego czołowe modele, biorąc pod uwagę wyrafinowanie agenta. Okazało się, że tak było."

Nikt tego modelu nie oszukał