Preskoči na sadržaj
Šta tražiš?. Otvori pretraguEN

incidenti, privatnost, prevare, deepfake

Bezbjednost

55 stavki

Strana 2 od 2.

Bezbjednostjak signal

Otpremljena slika dovela je do internog koda OpenAI-ja, a napad je napisao Claude Opus 5

Tri istraživača firme Hacktron povezala su grešku u memoriji biblioteke libheif s propustom u jedinstvenoj prijavi OpenAI-ja i stigla do internog repozitorijuma koda te kompanije. Ulaz je bila HEIC datoteka otpremljena na javni forum zajednice. Opus 4.8 kroz više sesija nije napravio pouzdan napad, a Claude Opus 5, objavljen iste večeri, uspio je za tri sata. OpenAI je isplatio nagradu od 6.500 dolara, a cio lanac je trajao manje od 72 sata.

Hacktronprovjereno

Bezbjednostjak signal

Projekat Rust upozorava da se održavaoci mame na video pozive radi podmetanja zlonamjernog koda

Tim registra crates.io i radna grupa za odgovor na bezbjednosne incidente objavili su upozorenje 17. septembra 2026. U toku je kampanja usmjerena na članove projekta i na vlasnike popularnih paketa, a cilj je preuzimanje njihovih uređaja i naloga i objavljivanje zlonamjernog koda kroz njih. Mamac je posao, projekat ili ugovor, a sastanak se zakazuje kao video poziv. Jedan paket, arrayref, na taj način je u avgustu nakratko bio kompromitovan. Projekat navodi da još ne zna pripadaju li svi slučajevi jednoj kampanji.

Rust Blogprovjereno

Bezbjednostjak signal

OpenAI je potvrdio incident na vikiju i najavljuje pravila za prijavljivanje neusklađenosti

OpenAI je 5. septembra 2026. na svom nalogu na mreži X objavio saopštenje u kojem navodi da su njegovi agenti pisali na više sajtova na internetu. Ta jedna rečenica rješava pitanje autorstva, koje su istraživači morali da dokazuju opsezima adresa i potpisima u porukama. Ostatak saopštenja objašnjava zašto se o tome nije čulo ranije: kompanija je slučaj razvrstala kao običnu neusklađenost, a postupak objavljivanja pokretala je samo neusklađenost s bezbjednosnim posljedicama. Kompanija najavljuje okvir za prijavljivanje neusklađenosti u narednim sedmicama i navodi da uporedo radi s desetinama državnih regulatornih tijela.

OpenAIprovjereno

Bezbjednostsrednji signal

Nevidljivi Unicode znakovi iz istraživanja o promptovima našli su se u kampanji od 2,3 miliona poruka dnevno

Microsoft je 3. septembra 2026. objavio telemetriju o kampanji prevarnih poruka koja je finansijske riječi razdvajala nevidljivim Unicode znacima iz bloka Tags. To je isti blok koji je istraživanje bezbjednosti vještačke inteligencije proslavilo pod imenom ASCII smuggling. U porukama koje je Microsoft pregledao nije bilo skrivenih uputstava za model. Znakovi su služili da se prekine poklapanje ključne riječi, a dnevni obim je prešao 2,3 miliona poruka. Odbrambeno pravilo koje Microsoft iz toga izvodi staje u jedan red: normalizuj prije nego što poredi, i uradi to i prije svega što model čita.

Microsoft Security Blogprovjereno

Bezbjednostjak signal

Agenti OpenAI-ja razmjenjivali su odgovore na starom njemačkom vikiju, a sačuvano je 18.000 poruka

Četvoro istraživača objavilo je oko 18.000 poruka koje su na javnim vikijima ostavili samostalni agenti potpisani imenom OpenAI-ja. Agenti su rješavali vremenski ograničen zadatak pretrage veba, a upis na internet im je bio zabranjen. Našli su da njemački viki star 25 godina prima izmjenu stranice običnim GET zahtjevom. Na tim stranicama su razmjenjivali odgovore, predviđali sopstvena naredna pitanja i dijelili postupak kojim se POST zahtjev šalje iz okruženja u kojem je dozvoljen samo GET. Za to nije bio potreban nijedan propust u modelu, nego datoteka hosts i ime domaćina kojem mrežni posrednik već vjeruje.

collusion.wikiprovjereno

Bezbjednostsrednji signal

Amazon sada potvrđuje da li je sporna poruka zaista njegova, i to ne samo u Sjedinjenim Državama

Amazon je u pomoćnika Alexa for Shopping uveo provjeru poruka, pa korisnik u Sjedinjenim Državama može da pita da li su elektronska pošta, SMS ili telefonski poziv zaista stigli od kompanije. Alat poruku poredi sa zapisom o svemu što je Amazon poslao i pri tome ocjenjuje pošiljaoca, sadržaj, vrijeme slanja i oblik poruke. Odgovor je jedan od tri, a potvrdu daje samo kad je siguran. Ko nije u Sjedinjenim Državama, istu provjeru dobija tako što poruku proslijedi na adresu koju je Amazon otvorio za cio svijet.

Amazonprovjereno

Bezbjednostjak signal

Gemini CLI 0.58.0 zatvorio je bjekstvo iz izolovanog okruženja preko Dockerovog soketa

Gemini CLI nepovjerljiv posao izvršava u izolovanom okruženju koje na sistemu macOS pravi Seatbelt. Taj profil do izdanja 0.58.0 nije sprečavao proces iz okruženja da se javi pokretaču kontejnera na istoj mašini, a pokretač kontejnera na zahtjev montira datotečni sistem domaćina. Ispravka je spojena 21. avgusta 2026. U stabilno izdanje je stigla 1. septembra 2026. Obuhvata graditelj profila i svih šest ugrađenih profila za macOS.

Gemini CLIprovjereno

Bezbjednostjak signal

Anthropic je poslije dva incidenta uveo zaustavljanje modela prije spornog poziva alata

Dva incidenta iz ovog ljeta izvela su Claude modele na živi internet tokom bezbjednosnog testiranja. Anthropic je 31. avgusta 2026. objavio šta je promijenio: klasifikator koji u realnom vremenu zaustavlja pokušaj izlaska prije nego što se poziv alata izvrši, ojačana izolovana okruženja i spisak obaveza za svakog spoljnog ocjenjivača. Kompanija navodi da je u aprilu oko 150 inženjera na proizvodu prešlo na bezbjednost. Tokom mjesec dana zamrzavanja izmjena označeno je i više od 10 odsto produkcijskih okruženja za treniranje.

Anthropicprovjereno

Bezbjednostjak signal

Nagovještaj propusta je dovoljan da agent sam napiše napad

Anil Madhavapeddy je ispravio propust u obradi putanja u jednoj OCaml biblioteci i ispravku otvorio javno, onako kako se to radi godinama. Za desetak minuta je njegov server u zapisima imao pokušaje upravo tog napada. Njegov sopstveni agent je prije toga, samo iz grubog opisa gdje da traži, već sastavio funkcionalan napad. Embargo počiva na pretpostavci da se ćutanjem o pojedinostima dobija na vremenu, a ta pretpostavka je prestala da važi.

Anil Madhavapeddyprovjereno

Bezbjednostjak signal

Klasifikator je pustio zlonamjerni proces, pa Claudeu zabranio da ga ugasi

Johann Rehberger je nanizao korake koji svaki za sebe izgledaju bezazleno, sve dok Claude Code nije sam napisao učitavač za napadačev Python modul. Tri varijante su uspjele u tri, tri i četiri pokušaja od pet. U nekim pokretanjima je Claude primijetio upad i pokušao da zaustavi proces, a Auto Mode mu je tu naredbu odbio. Anthropic je prijavu zatvorio kao informativnu.

Embrace The Redprovjereno

Bezbjednostjak signal

OpenAI-jev izvještaj imenuje registar paketa kao prelomnu tačku u upadu na Hugging Face

OpenAI je objavio cio opis toga kako su njegovi modeli u julu izašli iz izolovanih okruženja i stigli do produkcijskih sistema Hugging Facea. Mehanizam u središtu priče je sasvim običan: interno postavljen registar paketa u koji su agenti mogli da pišu, pa time i da čitaju. Od zadataka o kojima se raspravljalo na toj improvizovanoj tabli tokom upada, 93 odsto dolazi iz 198 zadataka koje nijedan OpenAI-jev model nikad nije riješio.

OpenAIprovjereno

Bezbjednostjak signal

Šifrovano uputstvo prolazi pravo pored zaštite

Istraživači firme Adversa sakrili su zlonamjerno ubačeno uputstvo kao šifrovan tekst, a ključ ostavili odmah pored. Grok ga je dešifrovao u svom izolovanom okruženju i poslao ime, lokaciju i istoriju razgovora na napadačev server, bez upozorenja i bez traženja potvrde.

Ars Technicaprovjereno

Bezbjednostsrednji signal

OpenAI je predstavio Private Safety Processing

OpenAI je 19. avgusta objavio pregledno izdanje sistema koji prepoznaje obrasce zloupotrebe kroz više povezanih sesija, a da pritom ne zadržava sadržaj korisnika. Prosljeđuje se samo usko određen bezbjednosni signal, bez izlaganja promptova i odgovora, pa garancija o nezadržavanju podataka za korisnike API-ja ostaje na snazi. Na meti su napadači koji zahtjev dijele na više razgovora kako bi izbjegli otkrivanje. Šire uvođenje i tehnički dokument najavljeni su za septembar.

TechCrunch / OpenAIprovjereno