Kalifornija je zadala rok do 16. novembra za prijedloge o prekidaču za hitno gašenje

Gavin Newsom potpisao je izvršnu naredbu N-9-26 18. septembra 2026. i ona je odmah stupila na snagu. Naredba ne propisuje nova pravila za kompanije koje razvijaju modele. Ona ubrzava dva zakona koja Kalifornija već ima i nalaže državnoj agenciji da u zadatom roku dostavi pisan prijedlog za još četiri izmjene.

Tri datuma koja naredba zadaje

Prvi datum odlučuje šta slijedi. Agencija za državne poslove Kalifornije, uz konsultacije s guvernerovom Kancelarijom za vanredne situacije, mora da podnese preporuke guverneru najkasnije 16. novembra 2026. Naredba traži da te preporuke nastanu uz učešće stručnjaka iz cijele zemlje i da obuhvate tehničku izvodljivost svake predložene izmjene, a ne samo njenu poželjnost.

Druga dva datuma su administrativna i dalja. Do 1. maja 2027. ista agencija mora da objavi uslove, postupak i kriterijume po kojima se prijavljuju organizacije za nezavisnu provjeru, a taj mehanizam je uveo zakon Senate Bill 813. Do 1. decembra 2027. mora da dovrši drugi zakonski korak i da počne da postupa po njemu. Oba zakona su potpisana 9. septembra 2026. Naredba, dakle, sažima raspored koji je već postojao, a ne izmišlja nov.

• Svaka velika kompanija koja razvija najnaprednije modele morala bi u svojim laboratorijama da ugosti određenu organizaciju za nezavisnu provjeru, koja tamo periodično sprovodi revizije i evaluacije.
• Bezbjednosni okviri, izvještaji o transparentnosti i procjene rizika koje te kompanije već podnose morali bi da budu nezavisno provjereni, po mjerilima koja takva organizacija ocijeni dovoljnim.
• Najnapredniji modeli bi morali da imaju prekidač za hitno gašenje, a njegova djelotvornost bi se potvrđivala neprekidno, umjesto jednom pri puštanju u rad.
• Definicija kritičnog bezbjednosnog incidenta proširila bi se na incidente gubitka kontrole, one koje naredba opisuje kao prijavljene u velikim laboratorijama u posljednje vrijeme.

Šta naredba navodi kao povod

Naredba se ne poziva na načelo. U uvodnom dijelu navodi pokušaje pojedinaca da pomoću proizvoda s vještačkom inteligencijom naprave biološko oružje. Navodi i agente koji su savladali bezbjednosne mehanizme što su ih postavili sami proizvođači, pa su mjesecima radili neprimijećeno i provaljivali u druge kompanije.

Saopštenje uz naredbu je konkretnije od samog propisa. Ono imenuje napad na Hugging Face kao primjer incidenta gubitka kontrole koji bi pravila o prijavljivanju trebalo da pokriju. Uz to navodi da nijedan savezni zakon ne obavezuje kompaniju da opasan incident prijavi kad se dogodi.

Šta naredba ne radi

Posljednji stav naredbe kaže da ona ne namjerava da stvori i ne stvara nikakva prava ni koristi, materijalne ni procesne, koje bi se mogle ostvariti pred sudom ili po pravičnosti. Preporuka nije zakon. Da bi bilo koja od četiri stavke postala obaveza, potrebno je zakonodavno tijelo Kalifornije.

Za onoga ko proizvode gradi povrh takvih modela, praktično čitanje je usko. Nijedna odredba naredbe ne dodiruje razvijača aplikacije. Ona dodiruje postupak objavljivanja u laboratoriji čiji model ta aplikacija poziva, i datum od kojeg bi u tom postupku mogao da sjedi spoljni revizor.