Oznake
Nijedna stavka ne odgovara filteru.
Izdanje b11556 dodaje rotaciju težina koja je modelu Bonsai 2 nedostajala u zvaničnom llama.cpp-u. Datoteka Q2_0 od 7,63 GB tamo sada daje ispravan izlaz, a manja pakovanja PQ2_0 i PTQ1_0 i dalje traže verziju same kompanije.
llama.cppprovjereno
Kontrolna tačka u obliku GGUF predaje se funkciji from_pretrained i pokreće sa težinama koje ostaju spakovane, uz ggml kernele za Metal iz biblioteke kernels. Cilj je jedan razgovor u živo na Macu s Apple Silicon čipom, a taj put pokriva arhitekture Qwen3.5, i u obliku sa svim aktivnim parametrima i u obliku mješavine eksperata, te odgovarajuće kontrolne tačke modela Qwen3.8. Hugging Face navodi da je rezultat blizu llama.cpp-a na tri mjerene kontrolne tačke, uz napomenu da dva mjerenja nisu rađena pod istovjetnim uslovima. Kao motor za efikasno lokalno izvođenje i dalje preporučuje llama.cpp.
Hugging Faceprovjereno
Izdanje 0.4.0 objavljeno je 4. septembra 2026. To je numerisana verzija, a ne jedna od noćnih gradnji. Donosi početnu podršku za Qwen3.8-Flash-Next, za NVIDIA Nemotron-3-Puzzle-75B-A9B, za DSpark kod Nemotrona 3.5 i za nanbeige4.2-3B. Apple RDMA postaje prenos za RPC, video stiže u komandnu liniju, a kvantizacija dobija gornju granicu memorije. Dvije podrazumijevane vrijednosti na serveru su promijenjene, a snimljeno stanje sesije dobija novu oznaku verzije.
llama.cppprovjereno
Lokalni model ima jedan tvrd uslov prije nego što se uopšte otvori pitanje brzine, kvaliteta ili licence: težine moraju da stanu u memoriju. Izbor mašine se time svodi na računicu na papiru, a Appleovi stoni računari od 25. avgusta daju tri cijene naspram kojih se ona vodi — 899 dolara za granicu od 32 GB, 2.499 za 128 GB i 5.499 za 512 GB. Ovaj vodič pokazuje šta gdje staje, čime se pokreće, za šta je koja veličina dobra i poslije koliko tokena sopstvena mašina postaje jeftinija od plaćanja po tokenu.
Apple, OpenRouter, DeepSeekprovjereno
Qwen3.8-Flash-Next je multimodalni model otvorenih težina po principu mješavine eksperata i rani pregled arhitekture na kojoj će stajati Qwen4. Zanimljiv je par brojki: 125 milijardi parametara naspram 6 milijardi aktiviranih po tokenu. Prva određuje hoće li model stati na raspoloživu mašinu, a druga koliko brzo odgovara. Simon Willison ga pokreće na računaru DGX Spark iz kvantizovanih datoteka od 72,5 i 78,9 gigabajta, što je zahtjev za hardver u najupotrebljivijem obliku.
Qwenprovjereno
Granite 4.2 dolazi u tri veličine, od tri, osam i trideset milijardi parametara, pod licencom Apache 2.0, a uz težine su odmah objavljena i izdanja u GGUF-u i na četiri bita. Zanimljiv dio nije tabela mjerenja — nego to što su licenca i formati riješeni prvog dana.
IBMprovjereno
