OSS Scanner od Anthropica: darmowe raporty o lukach, bez ludzkiej kontroli

Anthropic otworzył zapisy do OSS Scanner, darmowej usługi, w której najmocniejsze modele firmy regularnie przeczesują kod projektu open-source i wysyłają jego opiekunom raporty o lukach bezpieczeństwa. Każdy raport ma zawierać wyjaśnienie błędu, propozycję poprawki, jeśli da się ją przygotować, oraz działający przykład pokazujący, jak tę lukę wykorzystać. Brzmi jak prezent dla ludzi, którzy po godzinach utrzymują biblioteki używane przez pół internetu. Moim zdaniem to prezent z warunkami, które warto przeczytać przed zapisaniem się, bo Anthropic sam przyznaje, że raporty pisze model i nikt ich przed wysłaniem nie sprawdza.

Dziewięć trafnych raportów na dziesięć, według zapowiedzi

Usługa wzięła się z próśb samych opiekunów. Przy Project Glasswing, wcześniejszym programie, w którym wybrane organizacje dostały dostęp do najsilniejszego modelu firmy, Mythosa, Anthropic przeskanował setki popularnych projektów, a część znalezisk ludzie przejrzeli i prywatnie zgłosili autorom. Niektórzy opiekunowie, którzy mają siłę przerabiać zgłoszenia hurtem, poprosili wtedy o wszystko, co model znalazł, sprawdzone czy nie. OSS Scanner jest odpowiedzią na tę prośbę, a firma wprost wzoruje się na OSS-Fuzz, usłudze Google, która od lat automatycznie testuje projekty open-source.