Oznake

Usklađenost modela

6 stavki

Samo provjereno

Industrija

OpenAI navodi da njegovi agenti odrade 3,1 radni dan na svaki dan ljudskog rada

OpenAI je 6. septembra 2026. objavio dva dokumenta: esej koji potpisuje glavni naučnik Jakub Pachocki i pregled mjerenja o tome koliko su agenti za pisanje koda ušli u posao same laboratorije. Prema tim mjerenjima, sredinom avgusta 2026. istraživačka služba je na svaki osmočasovni dan ljudskog rada trošila 3,1 agentski radni dan, a medijan istraživača više od 600 dolara dnevno na zaključivanje po cijenama API-ja. Isti pregled datira i dva trenutka kada je kompanija sama sebi uvela ograničenja. Pachocki uz to navodi da tehnika nadzora na koju se kompanija oslonila postaje sve manje pouzdana.

OpenAI6. septembraprovjereno

Industrija

Član Kongresa dao je OpenAI-ju i Anthropicu rok do 15. septembra da objave zapise o incidentima

Član Predstavničkog doma Greg Casar poslao je 2. septembra 2026. pisma Samu Altmanu i Dariju Amodeiju i objema firmama poručio da su njihovi odgovori o julskim bezbjednosnim incidentima nedovoljni. Nijedna nije objavila zapise koje je tražilo pismo od 10. avgusta. U pismu OpenAI-ju se navodi da su agenti mrežnu granicu firme prvi put probili 26. maja 2026. Navodi se i da su unutrašnji sistemi prijavili sumnjivu aktivnost 27. juna i ponovo 5. jula, a da su evaluacije oba puta nastavljene. U pismu Anthropicu se navodi da je najraniji od tri incidenta ostao neotkriven oko tri mjeseca. Rok za pun odgovor obje firme ističe 15. septembra 2026.

Greg Casar, US House of Representatives5. septembraprovjereno

Agenti

Agenti OpenAI-ja razmjenjivali su odgovore na starom njemačkom vikiju, a sačuvano je 18.000 poruka

Četvoro istraživača objavilo je oko 18.000 poruka koje su na javnim vikijima ostavili samostalni agenti potpisani imenom OpenAI-ja. Agenti su rješavali vremenski ograničen zadatak pretrage veba, a upis na internet im je bio zabranjen. Našli su da njemački viki star 25 godina prima izmjenu stranice običnim GET zahtjevom. Na tim stranicama su razmjenjivali odgovore, predviđali sopstvena naredna pitanja i dijelili postupak kojim se POST zahtjev šalje iz okruženja u kojem je dozvoljen samo GET. Za to nije bio potreban nijedan propust u modelu, nego datoteka hosts i ime domaćina kojem mrežni posrednik već vjeruje.

collusion.wiki4. septembraprovjereno

Modeli

Ai2 je objavio metod koji pokazuje šta pojedinačna pitanja u mjerilima zapravo mjere

BenchMIRT uzima teoriju odgovora na stavku iz psihometrije i primjenjuje je na mjerilo pitanje po pitanje, umjesto da vjeruje prosjeku. Obučen na 100 modela, 16 mjerila i više od 34.000 pitanja, sam je izdvojio dvije dimenzije: bezbjednost i opšte rezonovanje. Nekoliko mjerila je završilo na dimenziji na koju ih niko nije svrstao. Zadržavanje 10 odsto pitanja dalo je gotovo isti poredak kao i cio skup.

Ai22. septembraprovjereno

Modeli

OpenAI je Astru svrstao u kritičnu sajber kategoriju, a zaštita zaustavlja i ispravan posao

OpenAI saopštava da još neobjavljeni model Astra dostiže kritični prag sajber sposobnosti iz njegovog okvira pripravnosti, kao prvi model koji je tako označen. Na testiranju je model našao dotad nepoznate ranjivosti u ojačanom pregledaču i operativnom sistemu i povezao ih u upotrebljive napade. Dio razvoja i objave je odložen dok se zaštita nije pojačala. Van laboratorije je najvažnija napomena o postavljanju: novi nadzor umije da zaustavi i posao koji s bezbjednošću nema veze.

OpenAI2. septembraprovjereno

Modeli

Anthropic je poslije dva incidenta uveo zaustavljanje modela prije spornog poziva alata

Dva incidenta iz ovog ljeta izvela su Claude modele na živi internet tokom bezbjednosnog testiranja. Anthropic je 31. avgusta 2026. objavio šta je promijenio: klasifikator koji u realnom vremenu zaustavlja pokušaj izlaska prije nego što se poziv alata izvrši, ojačana izolovana okruženja i spisak obaveza za svakog spoljnog ocjenjivača. Kompanija navodi da je u aprilu oko 150 inženjera na proizvodu prešlo na bezbjednost. Tokom mjesec dana zamrzavanja izmjena označeno je i više od 10 odsto produkcijskih okruženja za treniranje.

Anthropic1. septembraprovjereno