API temperature=0 설정해도 응답이 다른 이유 (LLM 재현성 해결법)
2026. 11. 1.
temperature를 지원하는 API라도, 0으로 설정했다는 사실만으로 답변이 글자까지 항상 같다고 보장할 수는 없습니다. 다음 표현을 고를 때의 무작위성을 낮추는 것과, 서비스 전체가 매번 같은 결과를 내는 것은 다른 문제입니다.모델 설명에서 ‘재현 가능하다’는 말을 읽을 때는 먼저 문장이 같은지, 답이 같은지, 그 답이 맞는지를 나눠 보세요. 이 글은 API 설정법이 아니라 공식 문서와 공개 연구에서 말하는 보장 범위를 읽는 기준입니다.표현은 달라도 답은 같을 수 있습니다아래는 실제 모델 출력이 아닌 설명용 가상 응답입니다. 질문은 ‘2+2는?’입니다.응답 A: “4입니다.”응답 B: “계산 결과는 4입니다.”두 문장은 글자 단위로는 다릅니다. 하지만 숫자 답만 읽으면 둘 다 4입니다. 문장 전체가..
