Anthropic objasnio kako radi vodeni žig u Claudeovom tekstu

Zvanično objašnjenje mehanizma kojim se u tekst koji Claude generiše upisuje vodeni žig. Uz nova evropska pravila o označavanju, tema prestaje da bude tehnička zanimljivost i ulazi u područje usklađenosti s propisima, jer nudi način da se porijeklo sadržaja utvrdi i onda kada se onaj ko ga objavljuje na to ne pozove.

Anthropic je 14. avgusta objavio odgovore na pitanja o tome kako radi vodeni žig u tekstu koji Claude generiše. Mehanizam je izveden iz postupka SynthID-Text koji dolazi iz Google DeepMinda. Tempo nije slučajan, jer evropski propis traži transparentnost od 2. avgusta. Kako radi U tekst se ne ubacuju skriveni znakovi niti se odgovor naknadno mijenja. Umjesto toga mijenja se izvor slučajnosti koji model koristi za jedan dio izbora riječi. Ti su izbori pojedinačno beznačajni, ali ih u dužem tekstu ima mnogo, pa zajedno ostavljaju obrazac. Čitalac ga ne primjećuje, a prepoznaje ga svako ko ima ključ kojim je taj obrazac zapisan. Zašto baš sada Označavanje koje zavisi samo od dobre volje onoga ko objavljuje otpada čim neko prenese tekst u drugi sistem. Žig upisan u sam tekst nastoji da porijeklo putuje zajedno sa sadržajem. Anthropic se time pridružuje OpenAI-ju i Googleu u objašnjavanju kako namjerava da ispuni zahtjeve evropskog propisa. Prema stranici podrške, novi Claude modeli objavljeni u Uniji od 2. avgusta podržavaju označavanje od samog početka. Šta ovo ne rješava Žig preživljava kopiranje teksta, ali ne i prepisivanje. Ako čovjek ili drugi model temeljno preoblikuje sadržaj, obrazac se gubi. Riječ je, dakle, o sredstvu za utvrđivanje porijekla, a ne o dokazu da nešto nije nastalo uz pomoć AI.