Top P는 생성된 텍스트의 랜덤성을 조절합니다. Top P는 "nucleus sampling"이라고도 불리는 방식을 취합니다. 모델은 텍스트를 생성할 때 가능성이 높은 단어들의 집합에서 무작위로 선택을 하게됩니다. 이 집합은 모든 단어의 확률을 높은 것부터 낮은 것까지 순서대로 더했을 때, 전체의 P%에 도달할 때까지 포함합니다.예를 들어, Top P가 0.9라면, 가장 가능성이 높은 단어들의 누적 확률이 90%가 될 때까지의 단어들만 고려하게 됩니다. 누적 확률의 한계를 Top P라는 파라미터로 컨트롤할 수 있는 것입니다. Top P의 값이 1에 가까운 큰 값이라면 모델이 더 다양하고 예측하기 어려운 단어를 선택할 확률이 높아집니다. 이는 더 창의적이고 흥미로운 텍스트를 생성하게합니다.
