Anders als die Frequency Penalty, die mit zunehmender Haeufigkeit staerker bestraft, wirkt die Presence Penalty bereits beim ersten Auftreten eines Wortes. Sie ermutigt das Modell, ueber bereits erwaehnte Begriffe hinauszugehen und neue Aspekte einzubringen. Das ist nuetzlich bei Brainstorming oder wenn man breite thematische Abdeckung wuenscht. Wie die Frequency Penalty wird sie ueblicherweise zwischen 0 und 2 eingestellt.
