Preskoči na sadržaj

Oznake

Appleovi čipovi

7 stavki
Kartica projekta RemoveMacAI: naslov Turn Apple Intelligence off. Get 12 GB back., red o jednoj komandi za macOS 27 i još jednoj za poništavanje, prekidač u isključenom položaju i komanda za instalaciju u okviru terminala.
Alatisrednji signal

Alat otvorenog koda isključuje Apple Intelligence na macOS-u 27 i briše njegove modele

RemoveMacAI je alat komandne linije otvorenog koda koji na macOS-u 27 isključuje Apple Intelligence, uklanja preuzete modele i sprečava sistem da ih ponovo preuzme. Autor navodi da macOS 27 više nema jedinstven prekidač za te funkcije i da modeli ostaju na disku i kad se funkcije isključe. MacRumors navodi da se oslobađa približno 12 GB, zavisno od toga koji su modeli instalirani. Prvo izdanje objavljeno je 29. septembra 2026. Do 5. oktobra 2026. objavljena su još četiri.

RemoveMacAIprovjereno

LLAMA.CPP0.6.0GLM-5.3-Flash i API za modele za odlučivanje
Mašine i lokalni modelisrednji signal

llama.cpp 0.6.0 podržava GLM-5.3-Flash, a server dobija API za modele za odlučivanje

Projekat llama.cpp objavio je 5. oktobra 2026. verziju 0.6.0. Izdanje dodaje podršku za GLM-5.3-Flash, model za tekst i sliku sa 320 milijardi parametara, i novu krajnju tačku servera za modele za odlučivanje (decision models). Dvije izmjene u spekulativnom dekodiranju objavljene su uz mjerenja autora, jedno na računaru DGX Spark kompanije Nvidia i jedno na Appleovim grafičkim procesorima. Izmijenjeni su i C API i verzija formata sačuvanih sesija, pa programe koji koriste biblioteku treba provjeriti prije nadogradnje.

llama.cppprovjereno

Mašine i lokalni modelisrednji signal

Transformers sada pokreće llama.cpp kvantizacije na Apple Siliconu

Kontrolna tačka u obliku GGUF predaje se funkciji from_pretrained i pokreće sa težinama koje ostaju spakovane, uz ggml kernele za Metal iz biblioteke kernels. Cilj je jedan razgovor u živo na Macu s Apple Silicon čipom, a taj put pokriva arhitekture Qwen3.5, i u obliku sa svim aktivnim parametrima i u obliku mješavine eksperata, te odgovarajuće kontrolne tačke modela Qwen3.8. Hugging Face navodi da je rezultat blizu llama.cpp-a na tri mjerene kontrolne tačke, uz napomenu da dva mjerenja nisu rađena pod istovjetnim uslovima. Kao motor za efikasno lokalno izvođenje i dalje preporučuje llama.cpp.

Hugging Faceprovjereno

Mašine i lokalni modelijak signal

Apple za Mac Studio navodi 4,3 puta brži rad s modelima, a konfiguracija sa 512 gigabajta stiže u oktobru

Mac Studio s čipovima M5 Max i novim M5 Ultra stiže u prodavnice 22. septembra 2026. Apple njegov rad s modelima vještačke inteligencije procjenjuje na do 4,3 puta brži nego kod prethodne generacije, mjereno u julu 2026. na mašini s čipom M3 Ultra. Konfiguracija od koje zavisi koliki lokalni model može da stane, 512 gigabajta objedinjene memorije uz do 1,2 terabajta u sekundi, navedena je u fusnoti: stiže krajem oktobra. Novi Siri AI izlazi kao beta izdanje, na početku samo na engleskom, i u Evropskoj uniji neće biti dostupan na iOS-u, iPadOS-u ni watchOS-u.

Appleprovjereno

Mašine i lokalni modelisrednji signal

llama.cpp 0.4.0 dodao je četiri arhitekture modela, prenos preko Apple RDMA i opcije za video

Izdanje 0.4.0 objavljeno je 4. septembra 2026. To je numerisana verzija, a ne jedna od noćnih gradnji. Donosi početnu podršku za Qwen3.8-Flash-Next, za NVIDIA Nemotron-3-Puzzle-75B-A9B, za DSpark kod Nemotrona 3.5 i za nanbeige4.2-3B. Apple RDMA postaje prenos za RPC, video stiže u komandnu liniju, a kvantizacija dobija gornju granicu memorije. Dvije podrazumijevane vrijednosti na serveru su promijenjene, a snimljeno stanje sesije dobija novu oznaku verzije.

llama.cppprovjereno

Mašine i lokalni modelijak signal

Memorija određuje šta možeš da vrtiš lokalno, a cijena po tokenu da li ti se to isplati

Lokalni model ima jedan tvrd uslov prije nego što se uopšte otvori pitanje brzine, kvaliteta ili licence: težine moraju da stanu u memoriju. Izbor mašine se time svodi na računicu na papiru, a Appleovi stoni računari od 25. avgusta daju tri cijene naspram kojih se ona vodi — 899 dolara za granicu od 32 GB, 2.499 za 128 GB i 5.499 za 512 GB. Ovaj vodič pokazuje šta gdje staje, čime se pokreće, za šta je koja veličina dobra i poslije koliko tokena sopstvena mašina postaje jeftinija od plaćanja po tokenu.

Apple, OpenRouter, DeepSeekprovjereno

Mašine i lokalni modelijak signal

Apple je naplatio memoriju, a memorija je ono što lokalni model zaista košta

Novi Mac Studio ide do 512 GB objedinjene memorije i počinje od 5.499 dolara, ali konfiguracija s 512 GB stiže tek krajem oktobra; novi Mac mini staje na 32 GB i počinje od 899. Za svakoga ko modele vrti na sopstvenoj mašini, taj raspon je cijela ponuda — i Apple je sada tako i prodaje.

Appleprovjereno