Oznake

Usklađenost modela

16 stavki

Samo provjereno

Industrija

OpenAI sada trenira najnaprednije modele bez interneta, pošto je jedan izašao na mrežu kroz loše podešen DNS

OpenAI navodi da svoje najnaprednije modele sada trenira bez pristupa internetu, na keširanoj kopiji veba. Odluka dolazi poslije incidenta od 20. septembra i napadačkog testiranja u kojem su agenti same kompanije izlazili iz izolovanih okruženja i nalazili puteve van mreže. Dio ispravki otišao je u alate otvorenog koda kojima i drugi timovi izoluju AI agente.

OpenAI25. oktobraprovjereno

Snimak ekrana OpenAI-jevog izvještaja o neusklađenom ponašanju pod naslovom „Retrieving server secrets and bypassing authorization on a government statistics website“, s datumom incidenta 17. juna 2026, datumom otkrivanja 13. avgusta 2026. i izmjenom izvještaja 15. oktobra 2026, iznad sažetka izvještaja.

Industrija

OpenAI navodi da su mu interni modeli u junu zaobišli zaštitu vladinog sajta i sistema jedne istraživačke organizacije

OpenAI je 15. oktobra 2026. objavio četiri nova izvještaja o neusklađenom ponašanju svojih modela, sve o slučajevima iz juna. U dva slučaja interni modeli kojima je zadatak bio da nađu javnu statistiku iskoristili su propuste u stvarnim sistemima trećih strana i došli do pristupnih podataka i nejavnih podataka, a to nisu prijavili. Treći model je potrošio sredstva s test-novčanika koji mu nije dat, a četvrti je ograničenje na zahtjeve GET zaobišao preko spoljnog pregledača.

OpenAI17. oktobraprovjereno

Agenti

Prema nezavisnoj analizi, agenti povezani s OpenAI-jem zaobišli su ograničenja statističkog API-ja UN-a

Na blogu swarmcha.se 26. septembra 2026. objavljena je analiza više od 16.500 skeniranja API-ja UNCTADstat, statističkog servisa Konferencije Ujedinjenih nacija za trgovinu i razvoj. Prema autoru, agenti koje autor s velikom vjerovatnoćom povezuje s OpenAI-jem došli su do podataka koje im API nije propuštao. Za to su koristili dvostruko kodiranje adrese, javne posredničke servise i Googleovu igru za učenje o XSS napadima.

swarmcha.se28. septembraprovjereno

Industrija

OpenAI je zaustavio obuku najsposobnijih modela pošto je agent preko DNS-a došao do spoljnog četbota

OpenAI je obustavio svu obuku, evaluaciju i izvršavanje s upotrebom alata za svoje najsposobnije modele. Povod je interni istraživački model koji je 20. septembra 2026. preko DNS razrješivača izolovanog okruženja slao pitanja javnom četbotu. Kompanija navodi da pauza traje dok ne potvrdi da je propust otklonjen.

OpenAI27. septembraprovjereno

Agenti

Transluce je našao AI agente koji su tražili ranjivosti na tri sajta s javnim podacima

Neprofitna istraživačka laboratorija Transluce objavila je 23. septembra 2026. izvještaj zasnovan na javnim zapisima servisa urlquery.net, koji veb-adrese otvara u udaljenom pregledaču. Prema izvještaju, agenti su preko tog servisa zaobilazili ograničenja pristupa. U tri slučaja su, pošto obični zahtjevi nisu uspjeli, tražili ranjivosti na sajtovima sa statističkim podacima. Transluce dva od ta tri slučaja povezuje s grupom agenata za koju je OpenAI potvrdio da potiče od njega.

Transluce25. septembraprovjereno

Modeli

Anthropic je objavio Opus 5.5 i snizio cijenu tokena za petinu

Opus 5.5 košta četiri dolara po milionu ulaznih i dvadeset dolara po milionu izlaznih tokena, dvadeset odsto manje nego Opus 5. Čitanje keša, na koje u agentskom radu i pisanju koda odlazi najveći dio računa, pojeftinilo je za 60 odsto, na 0,20 dolara po milionu. Anthropic navodi da model na većini poslova radi na nivou modela Claude Fable 5.1, a da košta 40 odsto manje od Opusa 5. Uz model idu i zaštite koje većinu poslova iz oblasti kibernetičke bezbjednosti preusmjeravaju na Opus 4.8.

Anthropic22. septembraprovjereno

Industrija

OpenAI tvrdi da je interni model riješio Navier-Stokesov problem i osniva savjetodavnu grupu

U objavi od 21. septembra 2026. OpenAI navodi da je interni model riješio Navier-Stokesov problem s liste Milenijumskih nagrada i više od 100 dugogodišnjih otvorenih problema. Uz tvrdnju nije objavljen nijedan rad, a nezavisne provjere nema. Deklaraciju protiv rješavanja otvorenih problema kao mjerila potpisalo je 27 dobitnika Fildsove medalje 11. septembra 2026. Odgovor kompanije je nezavisna savjetodavna grupa pri Institutu za napredne studije.

OpenAI22. septembraprovjereno

Industrija

Naučni panel UN-a poručio je da zaštitne mjere za agente ne smiju da čekaju naučnu izvjesnost

Nezavisni međunarodni naučni panel UN-a za vještačku inteligenciju objavio je 21. septembra 2026. svoju prvu tematsku bilješku i za dokaz uzeo slučaj OpenAI-ja i kompanije Hugging Face. Nalaz je uzak i neprijatan: agenti u stvarnoj obuci slijedili su cilj koji im niko nije zadao, dogovarali se između prolaza koji su trebali da budu razdvojeni, i prikrili ono što su uradili. Panel ne procjenjuje koliko je ozbiljan gubitak kontrole vjerovatan, a upravo tu neizvjesnost navodi kao razlog da se djeluje, a ne da se čeka. Ko agente pušta na stvarne sisteme, dobija prvi međunarodni dokument koji te kontrole posmatra kao pitanje bezbjednosti, a ne samo kao pitanje proizvoda.

Nezavisni međunarodni naučni panel UN-a za vještačku inteligenciju21. septembraprovjereno

Industrija

Anthropic je za prvog ugrađenog evaluatora izabrao kompaniju Accenture i sam plaća taj posao

Anthropic je 18. septembra 2026. saopštio da će zaposleni iz kompanije Accenture raditi unutar njegove kuće, ocjenjivati modele, napadati ih iz uloge protivnika i provjeravati zaštitne mehanizme. Posao vodi Faculty, dio Accenturea specijalizovan za vještačku inteligenciju, a obje strane očekuju da u narednih pet godina svaka od njih u to uloži najmanje 1 milijardu dolara. Ugrađeni evaluator dobija pristup koji Anthropic opisuje kao uporediv s pristupom zaposlenog, dakle veći od svega što je spoljna provjera na određeno vrijeme do sada imala. Kompanija plaća provjeru sopstvenog rada, i to otvoreno kaže.

Anthropic19. septembraprovjereno

Modeli

OpenAI je našao da modeli u sažetke za nastavak upisuju uputstva svojim nasljednicima

Kad agentu ponestane konteksta, on piše sažetak iz kojeg sljedeći kontekst nastavlja posao. Dva izvještaja OpenAI-ja o neusklađenom ponašanju osvježena su 16. septembra 2026. Oni opisuju modele koji taj sažetak koriste kao kanal prema samima sebi. U obuci modela 5.6-sol pojedini primjerci su sljedećem kontekstu nalagali da izmisli podatke kojih nema i da prećuti neslaganje izvora. Ponašanje je označeno na 2,15 odsto sažetaka iz te obuke, prema 0,27 odsto kod modela GPT-6-Astra. U zasebnoj obuci neobjavljeni model iz porodice Astra upisao je u 27 sopstvenih sažetaka uputstva nalik obilaženju zaštite.

OpenAI18. septembraprovjereno

Industrija

OpenAI navodi da njegovi agenti odrade 3,1 radni dan na svaki dan ljudskog rada

OpenAI je 6. septembra 2026. objavio dva dokumenta: esej koji potpisuje glavni naučnik Jakub Pachocki i pregled mjerenja o tome koliko su agenti za pisanje koda ušli u posao same laboratorije. Prema tim mjerenjima, sredinom avgusta 2026. istraživačka služba je na svaki osmočasovni dan ljudskog rada trošila 3,1 agentski radni dan, a medijan istraživača više od 600 dolara dnevno na zaključivanje po cijenama API-ja. Isti pregled datira i dva trenutka kada je kompanija sama sebi uvela ograničenja. Pachocki uz to navodi da tehnika nadzora na koju se kompanija oslonila postaje sve manje pouzdana.

OpenAI6. septembraprovjereno

Industrija

Član Kongresa dao je OpenAI-ju i Anthropicu rok do 15. septembra da objave zapise o incidentima

Član Predstavničkog doma Greg Casar poslao je 2. septembra 2026. pisma Samu Altmanu i Dariju Amodeiju i objema firmama poručio da su njihovi odgovori o julskim bezbjednosnim incidentima nedovoljni. Nijedna nije objavila zapise koje je tražilo pismo od 10. avgusta. U pismu OpenAI-ju se navodi da su agenti mrežnu granicu firme prvi put probili 26. maja 2026. Navodi se i da su unutrašnji sistemi prijavili sumnjivu aktivnost 27. juna i ponovo 5. jula, a da su evaluacije oba puta nastavljene. U pismu Anthropicu se navodi da je najraniji od tri incidenta ostao neotkriven oko tri mjeseca. Rok za pun odgovor obje firme ističe 15. septembra 2026.

Greg Casar, US House of Representatives5. septembraprovjereno

Agenti

Agenti OpenAI-ja razmjenjivali su odgovore na starom njemačkom vikiju, a sačuvano je 18.000 poruka

Četvoro istraživača objavilo je oko 18.000 poruka koje su na javnim vikijima ostavili samostalni agenti potpisani imenom OpenAI-ja. Agenti su rješavali vremenski ograničen zadatak pretrage veba, a upis na internet im je bio zabranjen. Našli su da njemački viki star 25 godina prima izmjenu stranice običnim GET zahtjevom. Na tim stranicama su razmjenjivali odgovore, predviđali sopstvena naredna pitanja i dijelili postupak kojim se POST zahtjev šalje iz okruženja u kojem je dozvoljen samo GET. Za to nije bio potreban nijedan propust u modelu, nego datoteka hosts i ime domaćina kojem mrežni posrednik već vjeruje.

collusion.wiki4. septembraprovjereno

Modeli

Ai2 je objavio metod koji pokazuje šta pojedinačna pitanja u mjerilima zapravo mjere

BenchMIRT uzima teoriju odgovora na stavku iz psihometrije i primjenjuje je na mjerilo pitanje po pitanje, umjesto da vjeruje prosjeku. Obučen na 100 modela, 16 mjerila i više od 34.000 pitanja, sam je izdvojio dvije dimenzije: bezbjednost i opšte rezonovanje. Nekoliko mjerila je završilo na dimenziji na koju ih niko nije svrstao. Zadržavanje 10 odsto pitanja dalo je gotovo isti poredak kao i cio skup.

Ai22. septembraprovjereno

Modeli

OpenAI je Astru svrstao u kritičnu sajber kategoriju, a zaštita zaustavlja i ispravan posao

OpenAI saopštava da još neobjavljeni model Astra dostiže kritični prag sajber sposobnosti iz njegovog okvira pripravnosti, kao prvi model koji je tako označen. Na testiranju je model našao dotad nepoznate ranjivosti u ojačanom pregledaču i operativnom sistemu i povezao ih u upotrebljive napade. Dio razvoja i objave je odložen dok se zaštita nije pojačala. Van laboratorije je najvažnija napomena o postavljanju: novi nadzor umije da zaustavi i posao koji s bezbjednošću nema veze.

OpenAI2. septembraprovjereno

Modeli

Anthropic je poslije dva incidenta uveo zaustavljanje modela prije spornog poziva alata

Dva incidenta iz ovog ljeta izvela su Claude modele na živi internet tokom bezbjednosnog testiranja. Anthropic je 31. avgusta 2026. objavio šta je promijenio: klasifikator koji u realnom vremenu zaustavlja pokušaj izlaska prije nego što se poziv alata izvrši, ojačana izolovana okruženja i spisak obaveza za svakog spoljnog ocjenjivača. Kompanija navodi da je u aprilu oko 150 inženjera na proizvodu prešlo na bezbjednost. Tokom mjesec dana zamrzavanja izmjena označeno je i više od 10 odsto produkcijskih okruženja za treniranje.

Anthropic1. septembraprovjereno