OpenAI predstavio Private Safety Processing

OpenAI je 19. avgusta objavio pregledno izdanje sistema koji prepoznaje obrasce zloupotrebe kroz više povezanih sesija, a da pritom ne zadržava sadržaj korisnika. Zamisao je da se prosljeđuje samo usko određen bezbjednosni signal, bez izlaganja samih promptova i odgovora, čime garancija o nezadržavanju podataka za plaćene korisnike API-ja ostaje na snazi. Na meti su napadači koji zahtjev dijele na više razgovora kako bi izbjegli otkrivanje. Rješenje je suprotno Anthropicovoj politici, koja podatke čuva trideset dana uz kontrolisan ljudski pregled; ako biraš dobavljača za projekat s osjetljivim klijentskim podacima, tu razliku vrijedi razumjeti prije potpisa. Šire uvođenje i tehnički dokument najavljeni su za septembar.

OpenAI je 19. avgusta objavio pregledno izdanje sistema koji prepoznaje obrasce zloupotrebe kroz više povezanih sesija, a da pritom ne zadržava sadržaj korisnika. Šta rješava Napadači zahtjev dijele na više odvojenih razgovora kako bi izbjegli otkrivanje, pa svaki dio pojedinačno djeluje bezazleno. Da bi se to uhvatilo, neko mora da posmatra više razgovora zajedno, što se neposredno sudara s obećanjem da se sadržaj ne čuva. Kako se ta dva zahtjeva mire Sistem prosljeđuje samo usko određen bezbjednosni signal, bez izlaganja samih promptova i odgovora. Garancija o nezadržavanju podataka za plaćene korisnike API-ja time ostaje na snazi. Zašto se to tiče izvođača Ako biraš dobavljača za projekat s osjetljivim klijentskim podacima, politika zadržavanja je stavka koju ugovor mora da pokrije. Anthropic podatke čuva trideset dana uz kontrolisan ljudski pregled, dok OpenAI nezadržavanje ističe kao prednost. Nijedno rješenje nije samo po sebi bolje; zavisi od toga šta klijent traži da mu potpišeš. Šta tek dolazi Šire uvođenje i tehnički dokument najavljeni su za septembar. Do tada je ovo najava, a ne dokaz.