NeoMME sa 260 miliona parametara došao je na 0,002 od modela s 3,75 milijardi na ViDoRe v3

Pretraga skeniranih stranica obično znači jedan od dva loša izbora: pokrenuti optičko prepoznavanje znakova i izgubiti raspored na stranici, ili pokrenuti velik vizuelno-jezički model i platiti ga za svaku stranicu koja ulazi u indeks. NeoMME je tvrdnja da drugi izbor više nije nužan, a brojke iza te tvrdnje dovoljno su određene da se mogu provjeriti.

Šta je objavljeno

NeoMME je porodica od dva multimodalna enkodera, od 260 miliona i 800 miliona parametara, koju je 3. septembra 2026. objavila kompanija H. Sve kontrolne tačke idu pod licencom Apache 2.0, a model se učitava kroz biblioteku Hugging Face Transformers, pa spada u ono što se može postaviti u rad, a ne samo pročitati.

Po građi, model izostavlja uobičajen sklop. Nema zasebno obučenog vizuelnog dijela ni uzročnog dekodera: jedan dvosmjerni Transformer prima i tekstualne tokene i sirove djelove slike veličine 32 sa 32 tačke, istim putem. Obje veličine imaju kontekst od 16.384 tokena, što je po autorima dovoljno za dvije slike u rezoluciji 4K. Slika zadržava svoj odnos stranica, pa gusto ispisana stranica dokumenta dobija više tokena od fotografije s malo sadržaja.

Brojke o pretrazi

Na mjerilu ViDoRe v3, po mjeri nDCG@10, model za pretragu od 260 miliona parametara postiže 0,523. Model ColQwen2.5, sa 3,75 milijardi parametara, postiže 0,524. Poređenje u istoj tabeli je uvjerljivije prema sličnim veličinama: ColModernVBERT sa 250 miliona parametara postiže 0,261, a ColSmol-256M postiže 0,207. Model od 800 miliona parametara postiže 0,556, naspram 0,565 za Vultron Flash od 850 miliona i 0,430 za ColPali v1.3 od 2,92 milijarde parametara.

Druga polovina priče je brzina. Pri istoj ulaznoj slici od 2048 sa 2048 tačaka, na jednoj grafičkoj kartici NVIDIA L40S, model od 260 miliona parametara kodira oko 51 stranicu u sekundi, naspram oko 26 za ColModernVBERT. Trošak pravljenja indeksa je mjesto na kojem projekti pretrage najčešće propadnu, pa dvostruko više stranica po satu grafičke kartice nije sitnica.

Riječ je o mjerenjima samog proizvođača, uz dio uporednih rezultata preuzetih s MTEB liste. Nezavisno ponavljanje još nije objavljeno, a brojke o brzini dolaze iz mjerenja nad unaprijed pripremljenim slikama, uz veličinu grupe podešenu za svaki model posebno. To je povoljna postavka, i u tekstu je jasno navedena.

Problem skladištenja i odgovor na njega

Pretraga s kasnom interakcijom čuva po jedan vektor za svaki dio slike, pa je stranica visoke rezolucije skupa za čuvanje. Stranica od 2048 sa 2048 tačaka daje 4.200 vektora, a izmjerena prosječna veličina na ViDoRe v3 je oko 1,5 megabajta po dokumentu. Ta brojka odlučuje da li je zbirka od milion stranica projekat ili stavka u budžetu.

Primjenjuju se dva postupka sabijanja zajedno. Hijerarhijsko grupisanje tokena spaja slične vektore, a asimetrična kvantizacija dokumente čuva u osmobitnom ili binarnom obliku, dok upitnu stranu drži u većoj preciznosti, jer se upiti prave u hodu i nikad se ne čuvaju. Pri faktoru grupisanja 10 i osmobitnom zapisu na obje strane, indeks pada na 39 kilobajta po stranici, što je 39 puta manje, uz zadržanih preko 99 odsto polaznog kvaliteta. Binarni zapis dokumenata daje 6 kilobajta po stranici, 255 puta manje, uz zadržanih preko 95 odsto.