OpenAI znakuje teksty z ChatGPT i Codex w Unii, a w API decyzja należy do was

5 października OpenAI ogłosiło, że w kolejnych tygodniach zacznie wplatać w teksty pisane przez ChatGPT i Codex niewidzialny znak wodny, na razie tylko dla użytkowników w Unii Europejskiej. Dla kogoś, kto buduje na API, ważniejsze jest coś innego: ten sam mechanizm jest dostępny dla klientów API na całym świecie, tylko domyślnie wyłączony (Yahoo News Malaysia). Ktoś w zespole musi więc świadomie przestawić przełącznik albo świadomie go zostawić, a narzędzia, które pozwoliłoby sprawdzić, czy znak w ogóle się trzyma, nikt z was na razie nie dostanie. Traktowałbym to jako uczciwie opisany element zgodności z prawem, a nie jako wykrywacz tekstów z AI.

Jak textGrain znakuje tekst, nie dodając ani jednego znaku

Na obrazie znak wodny łatwo sobie wyobrazić, ale w czystym tekście jest z tym gorzej, bo zwykłe skopiowanie i wklejenie gubi metadane i formatowanie. Dlatego system textGrain niczego do tekstu nie dokleja, tylko steruje tym, jak model losuje kolejne słowa. Przy każdym słowie model ma kilku prawdopodobnych kandydatów, a tajny klucz, który zna tylko OpenAI, działa jak ziarno losowania: razem z wcześniejszą częścią zdania wyznacza, ku którym z tych kandydatów model lekko się przechyli (Śląsk.online). Bez klucza nie da się ustalić, które słowa były faworyzowane. Pojedyncze słowo niczego nie zdradza, ale setki takich drobnych pchnięć składają się na wzór, który detektor znający klucz odczyta z samego tekstu.