Temperatura
Postavka koja odlučuje koliko model smije da skrene od najvjerovatnije sljedeće riječi. Nula daje najstalniji odgovor; više vrijednosti daju svaki put drugačiji.
Model u svakom koraku drži rangiranu listu kandidata za sljedeći token. Temperatura tu listu spljošti ili zaoštri prije nego što se jedan izabere: niske vrijednosti gotovo uvijek zadrže prvog, visoke daju stvarnu priliku onima ispod.
Raspon se razlikuje među API-jima, pa vrijednost prepisana iz primjera jednog proizvođača kod drugog ne znači isto. Ono što važi svuda je smjer i svrha: sve što će program raščlaniti, uporediti ili naplatiti traži najstalniju postavku, a tekst koji ne treba dvaput da zvuči isto može da podnese više.
Ovo nije dugme za istinu. Niska temperatura čini odgovor ponovljivim, ne tačnim — model će istu netačnost izgovoriti svaki put, s istom sigurnošću.