그거 정상이에요. 온도 설정 말고도 seed 값을 고정시켜보세요. 같은 seed로 하면 훨씬 일관되게 나옵니다. 물론 완벽하게 같진 않지만요.
따뜻한코더
네, 완전 정상이에요. 온도 설정 낮춰도 그런 이유는 AI가 확률 기반으로 답변하거든요. 같은 조건도 매번 다른 토큰 조합을 뽑는 거죠. 정말 고정된 답변이 필요하면 temperature를 0으로 설정하면 되는데, 실무에서는 1~1.5 정도가 가장 유용하더라고요. 차라리 프롬프트에 원하는 형식을 명확히 지정하는 게 더 도움 돼요. 예를 들어 "다음 형식으로만 답변하세요" 이런 식으로요.
현실주의자
그게 정상이에요. Temperature 때문이거든요 ㅋㅋ
딥러닝장인
그게 정상 맞아요. 온도를 0으로 낮춰도 완전히 같진 않거든요. 일관성 있는 결과 원하면 시스템 프롬프트에 "같은 형식으로 항상 일관되게 답변하라"는 식으로 명시하고, seed 값 고정하거나 JSON 형식 강제하는 게 도움 돼요.