Prvi OpenAI-jev čip mjeri se po vatu, a vat je dio koji treba pročitati dvaput

OpenAI je 25. avgusta objavio prve izmjerene rezultate Jalapeña, sopstvenog čipa za izvođenje modela. Kompanija ga je isprobala na InferenceX-u, javnom mjerenju firme SemiAnalysis koje pokriva cio put jednog zahtjeva, i na njemu pokrenula tri otvorena modela: GPT-OSS 120B, DeepSeek R1 670B i Kimi K2.5 1T.

Šta OpenAI javlja

Na sva tri modela, kaže OpenAI, Jalapeño je dao 1,5 do 1,9 puta više posla po vatu pri najvećoj propusnosti i 1,7 do 3,6 puta manje kašnjenje s kraja na kraj nego sistemi s kojima je poređen. Za vrlo interaktivne poslove — slučaj koji je važan za agente, gdje se zastoji gomilaju korak za korakom — javlja 2,1 do 4,1 puta veći učinak. Na Kimiju K2.5, najvećem isprobanom modelu, brojke su oko 1,5 puta veći učinak po vatu i 3,4 puta manje kašnjenje.

Kompanija propusnost i kašnjenje predstavlja kao izbor koji postojeći hardver mora da napravi a ova arhitektura ne mora, i kaže da se na sopstvenim vrhunskim modelima prednost u unutrašnjim probama još povećava. Te unutrašnje brojke nisu objavljene.

Mjera radi svoj posao

OpenAI otvoreno navodi metod: rezultati su preračunati po deklarisanoj snazi svakog ubrzivača, uz obrazloženje da je učinak po jedinici snage korisnija mjera od učinka po čipu. U istom pasusu stoji i da je Jalapeño deklarisan na 700 vati, a da je na isprobanim poslovima ostajao na 550 ili ispod.

Te dvije rečenice vuku na suprotne strane. Ako se svaki sistem dijeli deklarisanom brojkom, čipu koji radi petinu ispod sopstvene deklaracije pripisuje se štedljivost koju nije morao da pokaže — a takmac koji radi na svojoj deklaraciji taj popust ne dobija. Sistemi s kojima se poredi uz to nisu imenovani, pa niko sa strane ne može da ponovi isto poređenje.

• Mjerenje: InferenceX firme SemiAnalysis — javno mjerenje, a ne kućna proba.
• Modeli: GPT-OSS 120B, DeepSeek R1 670B, Kimi K2.5 1T — svi otvorenih težina.
• Preračun: po deklarisanoj snazi ubrzivača, ne po izmjerenoj potrošnji.
• Sistemi za poređenje: opisani kao vodeći dostupni sistemi, bez imena.

Zašto ipak nije svejedno

Kompanija koja pravi i model, i program koji ga poslužuje, i sada čip, sve troje može da podesi prema sopstvenom saobraćaju — a to je prednost koju nijedna tabela mjerenja ne hvata. Ako odnosi ostanu isti i u punom pogonu, posljedica se vidi tamo gdje je korisnik osjeti: u vremenu odgovora pod opterećenjem i u cijeni tokena kroz vrijeme.

Zasad je ovo proizvođač koji objavljuje sopstvene prve rezultate na hardveru koji niko drugi ne može da kupi. Razuman potez je zabilježiti tvrdnju, zabilježiti metod i sačekati da InferenceX pokrene neko drugi.