OpenAI predstavio Private Safety Processing
OpenAI je 19. avgusta objavio pregledno izdanje sistema koji prepoznaje obrasce zloupotrebe kroz više povezanih sesija, a da pritom ne zadržava sadržaj korisnika. Zamisao je da se prosljeđuje samo usko određen bezbjednosni signal, bez izlaganja samih promptova i odgovora, čime garancija o nezadržavanju podataka za plaćene korisnike API-ja ostaje na snazi. Na meti su napadači koji zahtjev dijele na više razgovora kako bi izbjegli otkrivanje. Rješenje je suprotno Anthropicovoj politici, koja podatke čuva trideset dana uz kontrolisan ljudski pregled; ako biraš dobavljača za projekat s osjetljivim klijentskim podacima, tu razliku vrijedi razumjeti prije potpisa. Šire uvođenje i tehnički dokument najavljeni su za septembar.
OpenAI je 19. avgusta objavio pregledno izdanje sistema koji prepoznaje obrasce zloupotrebe kroz više povezanih sesija, a da pritom ne zadržava sadržaj korisnika.
Šta rješava
Napadači zahtjev dijele na više odvojenih razgovora kako bi izbjegli otkrivanje, pa svaki dio pojedinačno djeluje bezazleno. Da bi se to uhvatilo, neko mora da posmatra više razgovora zajedno, što se neposredno sudara s obećanjem da se sadržaj ne čuva.
Kako se ta dva zahtjeva mire
Sistem prosljeđuje samo usko određen bezbjednosni signal, bez izlaganja samih promptova i odgovora. Garancija o nezadržavanju podataka za plaćene korisnike API-ja time ostaje na snazi.
Zašto se to tiče izvođača
Ako biraš dobavljača za projekat s osjetljivim klijentskim podacima, politika zadržavanja je stavka koju ugovor mora da pokrije. Anthropic podatke čuva trideset dana uz kontrolisan ljudski pregled, dok OpenAI nezadržavanje ističe kao prednost. Nijedno rješenje nije samo po sebi bolje; zavisi od toga šta klijent traži da mu potpišeš.
Šta tek dolazi
Šire uvođenje i tehnički dokument najavljeni su za septembar. Do tada je ovo najava, a ne dokaz.
Izvori
Povezano
Kako označiti AI sadržaj po članu 50, i koji dio toga nije tvoj posao
Član 50 Akta Evropske unije o vještačkoj inteligenciji primjenjuje se od 2. avgusta 2026. i obavezuje svakoga ko opslužuje ljude u Uniji, bez obzira na to gdje mu stoji server. Najviše zabune pravi obaveza mašinski čitljivog označavanja, koja je za vlasnika sajta što poziva tuđi API zapravo obaveza njegovog dobavljača. Evo šta jeste tvoje: asistent koji kaže šta je, objavljen tekst koji nosi ili potpis ili oznaku, i lažni snimak koji to priznaje.
Evropska komisijaprovjereno
Pew izmjerio: 35 odsto stranica nastalih poslije ChatGPT-a nosi trag mašinskog pisanja
Pew Research je kroz detektor propustio blizu pola miliona stranica iz arhive Common Crawl. Među onima objavljenim poslije novembra 2022. više od trećine je vratilo jasan trag mašinskog pisanja, a domeni .com pokazuju ga desetostruko češće nego .edu i .gov.
TechCrunchprovjereno
Gemma prešla milijardu preuzimanja i 100.000 izvedenih modela
Google je 20. avgusta saopštio da je porodica otvorenih modela Gemma prešla milijardu preuzimanja. Za dvije godine postojanja zajednica je objavila više od 100.000 izvedenih modela, a na posljednjem takmičenju na Kaggleu prijavljeno je više od 1.600 projekata. Uz objavu je pokrenuto spremište Awesome Gemma na GitHubu, zamišljeno kao popis provjerenih projekata, dorađenih modela, uputstava i alata. Brojka je zanimljiva i nekome ko pravi sajtove, jer model koji se pokreće na sopstvenom serveru prestaje da bude rijetkost, pa obrada teksta bez slanja podataka trećoj strani postaje izvodljiva.
Googleprovjereno