Anthropic je za prvog ugrađenog evaluatora izabrao kompaniju Accenture i sam plaća taj posao

Nezavisna provjera najnaprednijih modela do sada je značila da se model na određeno vrijeme preda trećoj strani i da se poslije pročita izvještaj. Anthropic kupuje nešto drugo. Partnerstvo je objavljeno 18. septembra 2026. Po njemu će zaposleni iz kompanije Accenture raditi unutar Anthropica, s pristupom koji sama kompanija opisuje kao uporediv s pristupom zaposlenog.

Šta ugrađeni evaluator dobija

Anthropic taj pristup opisuje u tri dijela. Ugrađeni evaluator može da prati kako model nastaje tokom treniranja, da prati odluke po kojima se model gradi i pušta u upotrebu i da razgovara neposredno sa zaposlenima. Odatle može da ocijeni kako kompanija radi, da provjeri poštuje li svoje bezbjednosne obaveze, da prijavi incidente i da javnosti opiše koristi i rizike.

Sam posao je u saopštenju imenovan. Vodi ga Faculty, dio Accenturea specijalizovan za vještačku inteligenciju, a obuhvata ocjenjivanje modela, napade iz uloge protivnika, procjene usklađenosti ciljeva modela i provjeru zaštitnih mehanizama. Obje strane očekuju da u narednih pet godina svaka od njih u izgradnju tih sposobnosti uloži najmanje 1 milijardu dolara. Taj iznos je saopšten kao očekivanje, a ne kao ugovorena vrijednost.

• Evaluator prati model dok nastaje u treniranju, a ne tek kad je gotov.
• Čita odluke po kojima se model gradi i pušta u upotrebu.
• Razgovara neposredno sa zaposlenima u kompaniji.
• Može da prijavi incidente i da javnosti opiše koristi i rizike.

Zašto je izbor te firme vijest

Anthropic nije počeo od neprofitne laboratorije za bezbjednost. Navodi da razgovara s organizacijom METR i s drugim neprofitnim evaluatorima o tome da dijelove ugrađene provjere isprobaju o sopstvenom trošku. Partnerstvo s kompanijom Accenture nije isključivo, u narednim sedmicama najavljeni su i drugi evaluatori, a Accenture će sličan posao raditi i za druge kompanije koje razvijaju modele.

Razlog koji Anthropic navodi je praktičan. Accenture uvodi vještačku inteligenciju u firme i državne organe u mnogim djelatnostima, pa Anthropic tvrdi da takvo poznavanje stvarne upotrebe treba da oblikuje i način ocjenjivanja. Korak je predstavljen kao napredak u ispunjavanju obaveze iz eseja izvršnog direktora „We Must Pace the Frontier“.

Šta još nije riješeno

Anthropic sam nabraja praznine. Ne postoje mjerila za to kojim podacima ugrađeni evaluator treba da ima pristup, ni za to kako izvještava o onome što nađe. Ne postoji ni utvrđen način finansiranja nezavisne provjere, pa Anthropic posao kompanije Accenture plaća neposredno.

Ta posljednja stavka je najvažnija. Anthropic zastupa stav da novac vremenom treba da dolazi iz zajedničkog fonda ili iz javnih izvora, kako je tražio u svom dokumentu Advanced AI Framework u junu. Dok takvog izvora nema, provjeru plaća onaj koga provjeravaju. Kompanija to ne krije i navodi da evaluatori ne umanjuju njenu odgovornost.