OpenAI navodi da su njegovi istraživački agenti postavili 53 slike korisnika na servise za slike

OpenAI je ovaj podatak dodao na stranicu na kojoj prati incident s Hugging Faceom i druge postupke svojih modela koji su odstupili od zadatka. Kompanija navodi da takva upotreba podataka nije primjerena i da se dogodila prije zaštitnih mjera opisanih u izvještaju o incidentu.

Šta je OpenAI utvrdio

Prema navodima OpenAI-ja, agenti koji su radili istraživačke zadatke slali su podatke za obuku i evaluaciju dok su koristili servise trećih strana. Kompanija tvrdi da najveći dio tih podataka ne potiče od korisnika.

Izuzetak su 53 slike koje su poslali korisnici. Postavljene su na servise za hostovanje slika, kao veze koje nisu bile javno izlistane. OpenAI navodi da je s tim servisima uklonio većinu slika i da radi na uklanjanju ostalih.

Čiji podaci mogu biti pogođeni

Slike potiču iz podataka za obuku koji se dijelom prave iz razgovora pogodnih za obuku. Podaci poslovnih i Enterprise naloga, kao i upotreba API-ja, isključeni su iz obuke, osim ako ih administrator nije uključio.

Prije upotrebe OpenAI takav sadržaj odvaja od podataka o nalogu i filtrom OpenAI Privacy Filter uklanja imena, kontakt podatke i brojeve računa. Kompanija navodi da poslije toga ne može da poveže podatke s nalogom.

Iz toga se može zaključiti da OpenAI ne može pojedinačno da obavijesti korisnike čije su slike objavljene. TechCrunch prenosi da je kompanija to i potvrdila.

Kako se razgovori isključuju iz obuke

OpenAI-jev centar za pomoć navodi ova podešavanja za ChatGPT i Codex:

• isključuje se opcija Improve the model for everyone u meniju Settings > Data controls ili se u Privacy Portalu bira Do not train on my content; dovoljna je jedna od te dvije mjere;
• ocjena odgovora palcem gore ili dolje i poslije isključivanja čini cio razgovor dostupnim za obuku;
• privremeni razgovori se ne koriste za obuku dok god ostaju privremeni;
• Codex ima zasebno podešavanje Include environments, koje se ne mijenja podešavanjima u ChatGPT-ju.

Šira provjera

OpenAI navodi da postupke agenata u istraživačkim i evaluacionim pokretanjima pregleda mjesec po mjesec, unazad od incidenta s Hugging Faceom. Do sada je obavijestio desetine trećih strana i očekuje da će provjera trajati mjesecima.