Top-p ist eine Alternative bzw. Ergaenzung zur Temperature, um die Vielfalt der Ausgabe zu steuern. Statt alle moeglichen Token zu beruecksichtigen, beschraenkt sich das Modell auf den kleinsten Satz, dessen Wahrscheinlichkeiten zusammen den Schwellenwert p ergeben. Niedrige Top-p-Werte machen die Ausgabe fokussierter und vorhersehbarer, hohe Werte vielfaeltiger. In der Praxis variiert man meist entweder Temperature oder Top-p, nicht beide gleichzeitig stark.
Top-p
Top-p (Nucleus Sampling) ist ein Parameter, der festlegt, aus welchem Anteil der wahrscheinlichsten Woerter das Modell auswaehlt. Bei Top-p 0,9 betrachtet es nur die Woerter, die zusammen 90 Prozent der Wahrscheinlichkeit ausmachen.
Verwandte Begriffe
Vom Begriff zur Praxis
Speichere, versioniere und teile deine besten Prompts mit Prompt2Love.
Kostenlos starten