OpenAI je okvir iza Codexa pretvorio u API za agente

Dugotrajne sesije agenata OpenAI već dvije godine izvodi u Codexu i u proizvodu ChatGPT Work, a dijelovi zbog kojih takva sesija preživi nekoliko sati sada se prodaju odvojeno. Agents API pravi agenta jednim pozivom, u kojem se navode zadatak, model, alati i okruženje. Objavljen je u javnoj beta verziji za sve razvojne timove i sam po sebi se ne naplaćuje: račun čine tokeni i alati koje agent potroši.

Šta se dobija uz poziv

Tri dijela instalacije koje je do sada svaki tim pisao sam sada dolaze od proizvođača. Sažimanje konteksta se pokreće samo, kad se sesija približi granici konteksta, pa posao može da se prelije preko više kontekstnih prozora bez sopstvenog koda. Pretraga alata učitava definicije alata tek kad zatrebaju, čime se smanjuje potrošnja tokena i čuva keš modela. Programski poziv alata dopušta da se pozivi izvršavaju uporedo i da se rezultati filtriraju u kodu prije nego što se vrate u kontekst.

Ispod svega radi isti okvir otvorenog koda koji vodi Codex, pa se logika koja usklađuje pozive modela, alate i kontekst može pročitati u javnom repozitorijumu koda. OpenAI ga održava i uz svako novo izdanje modela objavljuje verzionisan pristup njegovim mogućnostima.

Gdje se agent izvršava bira naručilac

Računarski kapacitet nije uključen u cijenu. Agent radi u izolovanom okruženju (sandbox) koje održava OpenAI, na sopstvenoj infrastrukturi ili kod partnera, a kao partneri su navedeni Blaxel, Cloudflare, Daytona, DigitalOcean, E2B, Modal, Oracle, Runloop i Vercel. Time su pokriveni rad unutar privatne mreže firme, poseban način čuvanja datoteka i tajni, i izbor procesora, grafičke kartice i memorije prema vremenu pokretanja i cijeni.

• Sesija se pravi pozivom client.beta.agents.sessions.create, u kojem se imenuju agent, njegovi alati i okruženje.
• Alati mogu biti MCP serveri, sopstvene funkcije ili ugrađeni alati kao što je pretraga veba.
• Podagenti rade uporedo pod postavkom multi_agent, svaki sa svojim kontekstom, a glavni agent sastavlja rezultate.
• Izolovano okruženje kod OpenAI-ja radi na istoj infrastrukturi na kojoj rade Codex i ChatGPT.

Glas je dobio cijenu po minutu

GPT-Live-1, koji je prvo bio dostupan u ChatGPT-u, istog dana je ušao u API po cijeni od 0,05 dolara po minutu za glasovni sloj. Slušanje i govor obavlja jedan model, umjesto lanca od prepoznavanja govora, jezičkog modela i sinteze, a rezonovanje i pozive alata prepušta pozadinskom modelu, koji se naplaćuje odvojeno. Ton, tempo i način razgovora zadaju se sistemskim promptom, a podržana je i telefonija, pa glasovni agent može da javi na poziv.

Brojke objavljene uz model su proizvođačeve. OpenAI navodi dobitak od 30 procentnih poena na testu Full Duplex Bench u odnosu na GPT-Realtime-2.1 i saopštava da je aplikacija Speak izmjerila pad prekidanja sagovornika za skoro 80 odsto u odnosu na raniji sistem s naizmjeničnim potezima. Nezavisnog mjerenja nijedne od te dvije brojke još nema.

Treća objava istog dana

Uz dva izdanja namijenjena programerima, OpenAI je predstavio i Data agent u proizvodu ChatGPT Work. Povezuje se na izvore podataka firme, ispituje šta se promijenilo i od pitanja postavljenog običnim jezikom pravi nadzorne ploče koje se mogu dijeliti. Administrator odlučuje koje veze postoje i koje uloge smiju da ih koriste, a upiti se izvršavaju pod dozvolama povezanog naloga, sve do ograničenja po tabeli, redu i koloni.