OpenAI uvodi vodeni žig u tekst ChatGPT-a i Codexa u EU, a u API-ju se uključuje po izboru

Kompanija uvođenje opisuje kao postepeno i regionalno. Vodeni žig u tekstu ne postaje podrazumijevan u cijelom svijetu, a OpenAI navodi da prvo želi da prikupi iskustva iz primjene u Evropskoj uniji. Uz najavu su objavljena i mjerenja same kompanije o tome koliko često detektor ne prepozna žig. Od tih brojki zavisi za šta se vodeni žig uopšte može koristiti.

Šta se mijenja i za koga

U ChatGPT-u i Codexu izmjena se primjenjuje automatski i samo u Evropskoj uniji. OpenAI navodi da će u narednim sedmicama vodeni žig dodati u tekstualni izlaz koji ispunjava uslove, za korisnike svih planova. Datum nije objavljen.

U API-ju se ništa ne mijenja dok korisnik sam ne uključi opciju. Vodeni žig se uključuje za cijelu organizaciju u podešavanjima organizacije, u odjeljku Data controls, pod stavkom Text provenance, ili za pojedinačan projekat u podešavanjima projekta. Na oba mjesta se biraju modeli čiji će izlaz biti označen, a OpenAI zatim žig dodaje tokom generisanja, bez dodatnog posla po zahtjevu. Spisak podržanih modela vidi se samo u tim podešavanjima. OpenAI navodi da će u narednim sedmicama obuhvatiti i sve starije modele.

Kompanija navodi i da sarađuje s partnerima koji njene modele nude kroz svoje usluge u oblaku, kako bi vodeni žig u narednim sedmicama bio dostupan i tamo.

Kako textGrain označava tekst

Tehnologija textGrain u tekst ne dodaje ništa. Prema objašnjenju u OpenAI-jevom centru za pomoć, ona mijenja način na koji model nasumično bira između mogućih sljedećih tokena, po obrascu koji određuje tajni ključ. Detektor s istim ključem provjerava da li odlomak prati taj obrazac češće nego što bi se to dogodilo slučajno. OpenAI navodi da metoda ne dodaje skrivene znakove, nevidljive razmake ni neuobičajenu interpunkciju i da je uticaj na brzinu generisanja zanemarljiv.

OpenAI je razvio sopstvenu metodu umjesto da preuzme SynthID kompanije Google DeepMind. Kompanija navodi da je textGrain u njenim testovima bio jednak ili bolji od ostalih isprobanih pristupa, među kojima je i SynthID za tekst, i da planira da tehnologiju objavi kao otvoreni kod. Prema objavljenim rezultatima za model Astra, na testovima performansi nema značajne razlike između izlaza s vodenim žigom i izlaza bez njega. Na testu DeepSWE v1.1 kompanija navodi 72,80 odsto bez žiga i 71,68 odsto sa žigom. Na testu Terminal-Bench 4.0 navodi 53,90 odsto i 56,06 odsto.

Šta detektor ne prepoznaje

Brojke koje je OpenAI objavio objašnjavaju zašto detektor nije javan. Pri ciljanoj stopi lažno pozitivnih nalaza od 1 odsto, detektor je prepoznao žig u oko 80 odsto odlomaka dužine 200 tokena i u oko 95 odsto odlomaka dužine 400 tokena, na sadržaju iz oblasti kao što je psihologija. Za matematiku, u kojoj je izbor riječi uži, OpenAI navodi znatno nižu stopu prepoznavanja.

Izmjene teksta brzo slabe signal. U testu na odlomcima od 400 tokena, zamjena 10 odsto riječi sinonimima smanjila je stopu prepoznavanja sa oko 92 odsto na 66 odsto. Poslije zamjene 25 odsto riječi stopa je iznosila 17 odsto.

Rezultat zavisi i od jezika. OpenAI je testirao sva 24 zvanična jezika Evropske unije pri istoj stopi lažno pozitivnih nalaza. Najvišu stopu prepoznavanja navodi za španski, 69,0 odsto, a najnižu za rumunski, 42,2 odsto. Kompanija navodi da je jačinu žiga povećala za jezike sa stopom ispod 60 odsto.

Kratki odgovori i programski kod uglavnom ostaju bez žiga. OpenAI navodi da Kodeks prakse Evropske unije o transparentnosti sadržaja generisanog vještačkom inteligencijom (Code of Practice) ne zahtijeva vodeni žig u izlazu kraćem od 200 tokena, što je oko 150 riječi na engleskom, ni u isječcima koda.

Šta nalaz detektora ne pokazuje

Uključivanje vodenog žiga ne rješava pitanje obaveze označavanja sadržaja. U centru za pomoć OpenAI navodi da vodeni žig ne zamjenjuje vidljive oznake ni druga obavještenja koja mogu biti obavezna i da kompanija korisnicima ne može davati savjete o njihovim pravnim obavezama. Uključivanje žiga ne daje ni pristup detektoru.

Ograničenja nalaza detektora OpenAI navodi sam:

• Vodeni žig ne otkriva ko je generisao tekst. OpenAI navodi da žig nije povezan ni s osobom, ni s organizacijom, ni s nalogom, ni s promptom, ni s razgovorom.
• Žig ne pokazuje koliki je dio odlomka napisao ili izmijenio čovjek.
• Žig ne utvrđuje ko je vlasnik teksta ni ko za njega odgovara.
• Žig ne govori ništa o tačnosti teksta.
• Za odlomak u kojem žig nije pronađen nije time dokazano da ga je napisao čovjek. Tekst može biti prekratak, izmijenjen, preveden ili generisan modelom druge kompanije.