ChatGPT će prekidati razgovore usmjerene na nasilje, a tinejdžerima ograničiti podatke o oružju

OpenAI je 30. oktobra 2026. najavio niz novih ograničenja u načinu na koji ChatGPT odgovara na teme nasilja. Četbot će moći da prekine razgovor u kojem se vidi da je korisnik usmjeren na nanošenje ozbiljne štete drugoj osobi. Tinejdžeri će dobijati manje praktičnih podataka o oružju i kad pitanje izgleda bezazleno. Kompanija navodi da uvođenje počinje u narednih nekoliko sedmica.

Ograničenja za sve korisnike

Najšira izmjena odnosi se na ranije masovne napade. ChatGPT će o tim napadima i njihovim počiniocima davati manje pojedinosti, i onda kad su one dostupne na drugim mjestima na internetu. OpenAI ograničava rekonstrukcije napada, uključujući podatke o upotrijebljenom oružju, opremi i o načinu na koji su nabavljeni. Ograničena su i detaljna poređenja napada po razmjerama štete, koja bi mogla da uvećaju ozloglašenost napadača. Dozvoljeno ostaje objašnjenje šta se dogodilo, kakve su posledice pretrpjele žrtve i zajednice i kako se prepoznaju znaci upozorenja.

Na odgovor će uticati i raniji razgovori. OpenAI je već opisao kako ChatGPT može da koristi kratke činjenične sažetke ranijih znakova upozorenja kad odgovara u kasnijem razgovoru. Na to se sada nastavlja: kad nedavni razgovori pokazuju znake mogućeg nasilja, ChatGPT će opreznije dijeliti podatke koji se mogu zloupotrijebiti.

Kad razgovor pokaže da je neko opsjednut nasiljem ili idejom da ozbiljno povrijedi drugu osobu, ChatGPT će moći sam da prekine takav razgovor. Ako iz tog razloga prekine više razgovora, OpenAI može privremeno da obustavi nalog. Nalozi za koje se utvrdi da su prekršili pravila kompanije o nasilju se ukidaju.

Strožije granice za mlađe od 18 godina

ChatGPT for Teens, verzija servisa s dodatnom zaštitom za korisnike mlađe od 18 godina, ograničiće praktične podatke o oružju i bezbjednosnim sistemima koji bi se mogli zloupotrijebiti za nasilje. Ograničenje važi i kad ništa ne ukazuje na nasilnu namjeru. Tinejdžeri i dalje mogu da koriste ChatGPT da spriječe ili smire nasilje, da potraže podršku i da se obrate odrasloj osobi od povjerenja. OpenAI radi i na tome da strožija ograničenja primijeni na svakoga za koga procijeni da je mlađi od 18 godina, i kad u razgovorima nema znakova nasilne namjere.

Da li se korisnik tretira kao tinejdžer, određuje procjena uzrasta, sistem koji uzrast procjenjuje iz signala poput obrazaca ponašanja. Kompanija navodi da sistem sada stalno uzima u obzir nove signale tokom korišćenja i premješta korisnike u iskustvo za mlađe od 18 godina kad je to opravdano. Odrasli koji tamo greškom dospiju mogu da potvrde punoljetstvo preko servisa Persona, partnera OpenAI-ja za provjeru uzrasta, i tako uklone dodatna ograničenja.

Roditelji koji preko roditeljske kontrole povežu svoj nalog s nalogom tinejdžera već dobijaju bezbjednosna upozorenja. Od jula 2026. dobijaju i obavještenje kad tinejdžerov nalog bude deaktiviran zbog kršenja pravila o nasilju. OpenAI radi na još jednom obavještenju, za slučaj kad se nalog tinejdžera privremeno obustavi zbog ponovljenih razgovora o nasilju.

Javni izvještaj od 2027. godine

OpenAI se obavezao i na izvještaj o bezbjednosti zajednice (Community Safety Report), posvećen sprječavanju nasilja i djelotvornosti zaštitnih mjera. Prvo izdanje očekuje se početkom 2027. godine i obuhvatiće drugu polovinu 2026, a dopune će izlaziti svakih šest mjeseci. Prema najavi kompanije, izvještaj će sadržati anonimizovane primjere, nove mjere i izmjene pravila, uz podatke koji ih potkrepljuju.

Kompanija navodi da je u trećem kvartalu 2026. uputila policiji više od 200 prijava zbog neposrednih prijetnji nasiljem. Tu brojku je objavio sam OpenAI i ona nije nezavisno potvrđena.