Top P는 생성된 텍스트의 랜덤성을 조절합니다. LLM은 텍스트를 생성할 때 가능성이 높은 단어들의 집합에서 무작위로 선택을 하는데, Top P가 클수록 모델이 더 다양하고 예측하기 어려운 단어를 선택하게 됩니다. Top P가 낮을수록 모델이 예측 가능한 단어를 선택합니다.즉, 창의적이고 흥미로운 텍스트를 생성하길 원한다면 Top P를 높이고, 반대를 원한다면 Top P를 낮추면 좋습니다.
SYSTEM Prompt와 USER Prompt, 두 종류가 있습니다. 각 차이점은 다음과 같습니다.
SYSTEM Prompt: 이 노드의 AI가 대화 전반에 걸쳐 따르는 역할과 규칙을 설정합니다. 한 번 설정하면 모든 대화에 계속 적용됩니다. 예를 들어 "당신은 계약서 변경점 분석 전문가입니다"처럼 AI의 전문 역할, 출력 형식, 판단 기준 등 대화의 맥락과 상관없이 바뀌지 않는 내용을 작성합니다.
USER Prompt: 사용자의 실제 요청을 받았을 때, 이 요청을 어떻게 처리할지 정의합니다. 예를 들어 "사용자가 업로드한 문서를 확인하고 변경점을 모두 추출합니다"처럼, 사용자가 입력한 값을 받았을 때 이를 어떻게 실제로 응답하고 어떤 작업을 수행하는지를 작성합니다.
