Preskoči na sadržaj

Oznake

lokalni modeli

17 stavki
LLAMA.CPP B115567,63 GBBonsai 2 bez posebne verzije
Mašine i lokalni modelisrednji signal

llama.cpp sada pokreće ternarni model Bonsai 2 bez posebne verzije kompanije PrismML

Izdanje b11556 dodaje rotaciju težina koja je modelu Bonsai 2 nedostajala u zvaničnom llama.cpp-u. Datoteka Q2_0 od 7,63 GB tamo sada daje ispravan izlaz, a manja pakovanja PQ2_0 i PTQ1_0 i dalje traže verziju same kompanije.

llama.cppprovjereno

Agentisrednji signal

GitHub Copilot je dobio lokalno izolovano okruženje za komande agenta, a njegov CLI bira i modele iz alata Ollama

GitHub je 7. oktobra 2026. proglasio lokalno izolovano okruženje (sandbox) za Copilot opšte dostupnim u Copilot CLI-ju, aplikaciji GitHub Copilot i sesijama u VS Codeu koje koriste Agent Host, bez doplate. Okruženje ograničava šta komanda koju Copilot pokrene smije da čita, mijenja i dohvata preko mreže, a isključeno je dok ga korisnik ili organizacija ne uključe. Istog dana je CLI dobio birač modela koje poslužuje lokalna instanca alata Ollama, a Claude Haiku 5.5 je dodat na spisak modela za plaćene planove.

GitHub Changelogprovjereno

Kartica projekta RemoveMacAI: naslov Turn Apple Intelligence off. Get 12 GB back., red o jednoj komandi za macOS 27 i još jednoj za poništavanje, prekidač u isključenom položaju i komanda za instalaciju u okviru terminala.
Alatisrednji signal

Alat otvorenog koda isključuje Apple Intelligence na macOS-u 27 i briše njegove modele

RemoveMacAI je alat komandne linije otvorenog koda koji na macOS-u 27 isključuje Apple Intelligence, uklanja preuzete modele i sprečava sistem da ih ponovo preuzme. Autor navodi da macOS 27 više nema jedinstven prekidač za te funkcije i da modeli ostaju na disku i kad se funkcije isključe. MacRumors navodi da se oslobađa približno 12 GB, zavisno od toga koji su modeli instalirani. Prvo izdanje objavljeno je 29. septembra 2026. Do 5. oktobra 2026. objavljena su još četiri.

RemoveMacAIprovjereno

Mašine i lokalni modelisrednji signal

llama.cpp 0.6.0 podržava GLM-5.3-Flash, a server dobija API za modele za odlučivanje

Projekat llama.cpp objavio je 5. oktobra 2026. verziju 0.6.0. Izdanje dodaje podršku za GLM-5.3-Flash, model za tekst i sliku sa 320 milijardi parametara, i novu krajnju tačku servera za modele za odlučivanje (decision models). Dvije izmjene u spekulativnom dekodiranju objavljene su uz mjerenja autora, jedno na računaru DGX Spark kompanije Nvidia i jedno na Appleovim grafičkim procesorima. Izmijenjeni su i C API i verzija formata sačuvanih sesija, pa programe koji koriste biblioteku treba provjeriti prije nadogradnje.

llama.cppprovjereno

Modelislab signal

Ai2 je objavio AstaBrief, model s otvorenim težinama koji piše izvještaje s citatima

Ai2 je 2. oktobra 2026. objavio težine i podatke za obučavanje modela AstaBrief. Model od istraživačkog pitanja i pronađenih odlomaka iz literature pravi izvještaj s citatima. Prema mjerenju Ai2, režim Fast na platformi Asta u prosjeku napravi izvještaj za 51,1 sekundu, a režim koji pokreće Claude za 178,5 sekundi. Licenca je Apache 2.0, a Ai2 navodi da je evaluacija rađena prije pojave sadašnjih vodećih modela.

Ai2provjereno

Mašine i lokalni modelisrednji signal

llama.cpp 0.5.0 podržava arhitekturu HRM-Text, a njegov server može da prima veze na više adresa

Projekat llama.cpp je 23. septembra 2026. objavio verziju 0.5.0. Izdanje dodaje podršku za HRM-Text, arhitekturu na kojoj je građen DFM Mimir, model od milijardu parametara, i konverziju modela MiMo-V2.6. Server sada može istovremeno da prima veze na više adresa, a u režimu rutera više ne prosljeđuje datoteku s API ključevima procesima koje pokreće.

llama.cppprovjereno

Mašine i lokalni modelisrednji signal

Transformers sada pokreće llama.cpp kvantizacije na Apple Siliconu

Kontrolna tačka u obliku GGUF predaje se funkciji from_pretrained i pokreće sa težinama koje ostaju spakovane, uz ggml kernele za Metal iz biblioteke kernels. Cilj je jedan razgovor u živo na Macu s Apple Silicon čipom, a taj put pokriva arhitekture Qwen3.5, i u obliku sa svim aktivnim parametrima i u obliku mješavine eksperata, te odgovarajuće kontrolne tačke modela Qwen3.8. Hugging Face navodi da je rezultat blizu llama.cpp-a na tri mjerene kontrolne tačke, uz napomenu da dva mjerenja nisu rađena pod istovjetnim uslovima. Kao motor za efikasno lokalno izvođenje i dalje preporučuje llama.cpp.

Hugging Faceprovjereno

Mašine i lokalni modelisrednji signal

Izdanje b11077 alata llama.cpp više ne prosljeđuje datoteku s ključevima podređenim serverima

Izdanje b11077 objavljeno je 21. septembra 2026. i ispravlja kvar u prijavi u režimu rutera alata llama.cpp. Kad je server pokrenut i s ključem u komandnoj liniji i s datotekom ključeva, podređene instance su provjeravale samo ključeve iz datoteke, pa je klijent s ključem iz komandne linije mogao da dobije spisak modela, a na svaki razgovor s modelom dobijao je odgovor 401. Ista izmjena zaustavlja i to da putanja do datoteke ključeva uopšte stigne do podređenog procesa. Riječ je o jednoj liniji u jednoj datoteci, a razlika je između postavke koja radi i one koja izgleda zdravo dok odbija posao.

llama.cppprovjereno

Mašine i lokalni modelijak signal

Apple za Mac Studio navodi 4,3 puta brži rad s modelima, a konfiguracija sa 512 gigabajta stiže u oktobru

Mac Studio s čipovima M5 Max i novim M5 Ultra stiže u prodavnice 22. septembra 2026. Apple njegov rad s modelima vještačke inteligencije procjenjuje na do 4,3 puta brži nego kod prethodne generacije, mjereno u julu 2026. na mašini s čipom M3 Ultra. Konfiguracija od koje zavisi koliki lokalni model može da stane, 512 gigabajta objedinjene memorije uz do 1,2 terabajta u sekundi, navedena je u fusnoti: stiže krajem oktobra. Novi Siri AI izlazi kao beta izdanje, na početku samo na engleskom, i u Evropskoj uniji neće biti dostupan na iOS-u, iPadOS-u ni watchOS-u.

Appleprovjereno

Mašine i lokalni modelisrednji signal

llama.cpp 0.4.0 dodao je četiri arhitekture modela, prenos preko Apple RDMA i opcije za video

Izdanje 0.4.0 objavljeno je 4. septembra 2026. To je numerisana verzija, a ne jedna od noćnih gradnji. Donosi početnu podršku za Qwen3.8-Flash-Next, za NVIDIA Nemotron-3-Puzzle-75B-A9B, za DSpark kod Nemotrona 3.5 i za nanbeige4.2-3B. Apple RDMA postaje prenos za RPC, video stiže u komandnu liniju, a kvantizacija dobija gornju granicu memorije. Dvije podrazumijevane vrijednosti na serveru su promijenjene, a snimljeno stanje sesije dobija novu oznaku verzije.

llama.cppprovjereno

Agentisrednji signal

OpenClaw 2026.9.1 vraća neuspjelo ažuriranje unazad i dobija spisak zabranjenih domaćina

Septembarsko izdanje otvorenog ličnog pomoćnika prepravlja ono što najviše boli kad zakaže, a to je ažuriranje. Komanda za ažuriranje sada vraća prethodni npm kandidat kad provjera Doctor poslije nadogradnje ne prođe, i kroz taj neuspjeh čuva podešavanja i reference na tajne. Isto izdanje pravilu o zaštiti od zahtjeva ka unutrašnjoj mreži dodaje spisak zabranjenih domaćina, uklanja tokene Gatewaya iz rezervnih kopija systemd jedinica i crta Mermaid blokove kao dijagrame u razgovoru. Jedna grupa mora nešto da uradi: ko je na izdanju 2026.8.2 bez upravljača servisima, treba jednom da pokrene ažuriranje bez ponovnog pokretanja.

OpenClawprovjereno

Mašine i lokalni modelijak signal

NVIDIA je objavila besplatan alat koji lokalno izvođenje modela raspoređuje na slobodne računare u kući

Personal AI Router je objavljen 3. septembra 2026. na sajmu IFA. Alat je besplatan, otvorenog koda, i radi na sistemima Windows, macOS i Linux: pronalazi saglasne računare na lokalnoj mreži i svaki nezavisan zahtjev za izvođenje šalje onom koji ima slobodan kapacitet, pa uporedni podzadaci agenta prestaju da čekaju u redu pred istom grafičkom karticom. Sarađuje s alatima Ollama i LM Studio, a podržava GeForce RTX 20 Series i novije, radne stanice s karticama RTX PRO, DGX Spark i Apple silicijum M4. Memoriju, međutim, ne udružuje, pa model koji ne staje na jedan računar ni dalje ne staje.

NVIDIAprovjereno

Mašine i lokalni modelisrednji signal

llama.cpp je dva dana radio na dugom kontekstu, a dobitak je pao na tri različita backenda

Između 29. i 31. avgusta 2026. llama.cpp je isporučio niz izmjena koje gađaju isto mjesto: dio zaključivanja koji postaje sporiji kako kontekst raste. Vulkan, CUDA i putanje za Metal i OpenCL dobili su svaka svoju popravku, uz brojke koje su autori objavili. Uz njih su zatvorena i tri rušenja. Ništa od toga ne traži zastavicu — stiže sa sljedećim izdanjem.

llama.cppprovjereno

Industrijasrednji signal

Gemma prešla milijardu preuzimanja i 100.000 izvedenih modela

Google je 20. avgusta saopštio da je porodica otvorenih modela Gemma prešla milijardu preuzimanja. Za dvije godine postojanja zajednica je objavila više od 100.000 izvedenih modela, a na posljednjem takmičenju na platformi Kaggle prijavljeno je više od 1.600 projekata. Uz objavu je pokrenuto spremište Awesome Gemma na GitHubu, zamišljeno kao spisak provjerenih projekata, dorađenih modela, uputstava i alata.

Googleprovjereno