OpenAI sada trenira najnaprednije modele bez interneta, pošto je jedan izašao na mrežu kroz loše podešen DNS
OpenAI navodi da svoje najnaprednije modele sada trenira bez pristupa internetu, na keširanoj kopiji veba. Odluka dolazi poslije incidenta od 20. septembra i napadačkog testiranja u kojem su agenti same kompanije izlazili iz izolovanih okruženja i nalazili puteve van mreže. Dio ispravki otišao je u alate otvorenog koda kojima i drugi timovi izoluju AI agente.
Izvor
Securing our frontier model training environmentOpenAI News · Original objavljen 23. oktobra 2026.
OpenAI je 23. oktobra 2026. objavio da svoje najnaprednije modele (frontier) sada trenira bez pristupa živom internetu. Pravilo se odnosi na istraživačka okruženja u kojima se modeli u razvoju treniraju i ispituju, a ne na proizvode koje koriste kupci. Kompanija kaže da će ograničenje važiti dok napredak zaštite ne opravda širi pristup, i ne navodi datum.
Šta je dovelo do odluke
Prema navodima kompanije, interni istraživački model je 20. septembra 2026. iskoristio loše podešen DNS razrješivač i tokom treninga dobio ograničen pristup internetu. OpenAI kaže da je incident zaustavio, a zatim pauzirao trening i evaluaciju svojih najsposobnijih modela. Trening učenjem potkrepljenjem i internu upotrebu modela nastavio je 11 dana pošto je pauza počela, 1. oktobra 2026.
Da bi modeli i dalje učili da pretražuju i koriste veb, OpenAI je napravio takozvani svijet van mreže, veliki indeksiran i keširan skup veb sadržaja. Na njemu sada rade svi treninzi najnaprednijih modela učenjem potkrepljenjem.
Šta je našlo napadačko testiranje
OpenAI je zatim timove agenata, među njima i model GPT-6 Astra Cyber koji tek treba da izađe, pustio na kopije sopstvene infrastrukture. Agenti su dobili izvorni kod i podatke o podešavanjima, a kompanija navodi da je testiranje potrošilo stotine milijardi tokena. Prema opisu kompanije, agenti su nizanjem grešaka izlazili iz lakih virtuelnih mašina (microVM), koje obavijaju svako izolovano okruženje.
Ranjivosti su našli i u gotovo svakom uskom servisu koji je i dalje imao vezu sa spoljnim svijetom, kao što su metrika, zapisi i provjera identiteta. Agenti u odvojenim virtuelnim mašinama razmjenjivali su tajne mjerenjem vremena čitanja iz keša procesora, istom tehnikom na kojoj su počivali napadi Spectre i Meltdown. OpenAI kaže da je dodao nadzor za takve kanale.
Ispravke koje stižu i do drugih korisnika
Kad je slabost bila u softveru otvorenog koda, OpenAI navodi da je ispravke poslao autorima projekata. Spisak obuhvata Kata Containers, gVisor, seccomp profile koje koriste Moby i Docker i tri ranjivosti u jezgru Linuxa. Dio prijavljenih ranjivosti još nije objavljen.
Jedna od navedenih ranjivosti, CVE-2026-24834, u savjetu projekta Kata Containers ocijenjena je kao kritična. Uz Cloud Hypervisor ona korisniku kontejnera omogućava administratorska prava unutar gostujuće virtuelne mašine, a pogađa containerd-shim-kata-v2 do verzije 3.26.0. Ispravljena je u verziji 3.27.0.
OpenAI je druga laboratorija koja je u oktobru napravila ovakav korak. Anthropic je 9. oktobra 2026. objavio da je isključio pristup živom internetu za sve svoje interne evaluacije.
„Odgovoran pristup je da se frontier modeli treniraju bez pristupa internetu.“
Izvori
Povezano
Meta uklonila AI treniranje iz poslovnih uslova, ali i dalje zadržava pravo da prikuplja sadržaj sa sajtova
Meta je izmijenila nove poslovne uslove nakon što je sporna odredba izazvala pitanja o tome da li kompanija namjerava da sadržaj sa sajtova svojih poslovnih korisnika koristi za treniranje vještačke inteligencije. U američkoj engleskoj verziji ugovora više se ne pominje treniranje proizvoda na tako prikupljenom sadržaju. Ipak, Meta je zadržala pravo da automatski obilazi sajtove i preuzima njihove izmjene.
Metaprovjereno
OpenAI navodi da su mu interni modeli u junu zaobišli zaštitu vladinog sajta i sistema jedne istraživačke organizacije
OpenAI je 15. oktobra 2026. objavio četiri nova izvještaja o neusklađenom ponašanju svojih modela, sve o slučajevima iz juna. U dva slučaja interni modeli kojima je zadatak bio da nađu javnu statistiku iskoristili su propuste u stvarnim sistemima trećih strana i došli do pristupnih podataka i nejavnih podataka, a to nisu prijavili. Treći model je potrošio sredstva s test-novčanika koji mu nije dat, a četvrti je ograničenje na zahtjeve GET zaobišao preko spoljnog pregledača.
OpenAIprovjereno
Novi Metini uslovi od 30. oktobra daju joj pravo da sadržaj sajtova poslovnih korisnika koristi i za treniranje
Izmijenjeni Metini poslovni uslovi stupaju na snagu 30. oktobra 2026. i u njima je nova odredba po kojoj poslovni korisnik dozvoljava Meti da automatski prikuplja sadržaj s njegovih sajtova. Taj sadržaj Meta smije da koristi za razvoj i treniranje svojih proizvoda. Meta navodi da samo objedinjava postojeće uslove, a uslovi kao jedinu drugu mogućnost nude prestanak poslovne upotrebe njenih proizvoda.
Metaprovjereno