100만 토큰 AI, 답변도 100만 토큰일까요?

컨텍스트가 100만 토큰이라고 해서 한 번의 답변도 100만 토큰까지 나온다는 뜻은 아닙니다. 한 요청에서 다루는 정보의 범위와 최대 출력량은 다른 한도입니다. 긴 보고서나 코드를 맡기려고 모델을 고른다면, 큰 컨텍스트 숫자 옆의 출력 한도도 함께 읽어야 합니다.

이 글은 AI 모델 사양을 처음 읽는 사람을 위한 개념 해설입니다. API 문서의 한도와 실제 챗봇 화면의 답변 길이를 구분하며, 특정 계정에서 최대 길이까지 출력시키는 사용법이나 시험 결과는 다루지 않습니다.

사양표에서는 필요한 결과에 따라 질문을 나누세요.

• 필요한 자료를 함께 다룰 수 있는가? → 컨텍스트를 봅니다.
• 한 요청에서 얼마까지 생성할 수 있는가? → 최대 출력을 봅니다.

컨텍스트와 출력 길이는 다른 한도입니다. 수치를 측정한 화면이 아닌 설명용 생성 이미지입니다.

컨텍스트는 작업 공간, 최대 출력은 그 안에서 만드는 분량입니다

Anthropic의 Context windows는 컨텍스트를 모델이 답변을 만들 때 참고할 수 있는 텍스트 전체로 설명하며, 생성하는 답변 자체도 포함합니다. Claude API에서는 시스템 지침, 대화 기록, 현재 질문, 문서·도구 결과 등 요청에 들어간 내용과 새 출력이 이 공간을 사용합니다.

따라서 컨텍스트를 ‘내가 붙여 넣을 문서의 분량’만으로 읽으면 빠지는 항목이 생깁니다. 문서를 많이 넣을 수 있다는 말과, 그만큼 긴 답변을 받을 수 있다는 말은 다릅니다.

최대 출력은 한 요청에서 모델이 생성할 수 있는 토큰의 상한입니다. 상한까지 반드시 채워 준다는 약속도 아닙니다. 질문에 대한 답이 먼저 끝날 수도 있고, 모델·서비스의 다른 제약이 적용될 수도 있습니다.

입력과 새 출력이 함께 컨텍스트를 사용한다는 개념도입니다. 실제 사용 비율을 나타내지 않는 설명용 생성 이미지입니다.

공식 사양에서 두 숫자가 어떻게 다른지 보세요

2026년 10월 16일 확인한 Claude Sonnet 5.5의 공식 사양은 컨텍스트 1M 토큰, 동기식 Messages API의 최대 출력 128K 토큰을 따로 적고 있습니다. 이 예에서 1M은 최대 출력량을 뜻하지 않습니다. 별도 배치 API 베타에는 다른 출력 한도가 있으므로 같은 조건으로 섞어 읽으면 안 됩니다.

이 숫자는 해당 시점의 Claude API 문서에 대한 설명입니다. 다른 모델이나 ChatGPT·Claude의 소비자용 앱, 외부 자동화 도구에 그대로 적용할 수는 없습니다. 앱이 대화를 어떻게 정리하고 어느 모델·출력 설정을 쓰는지에 따라 실제 조건이 달라집니다.

모델을 비교할 때는 ‘어느 제품·버전의 사양인가’를 먼저 고정한 다음, 컨텍스트와 최대 출력을 별도 항목으로 보세요. 서로 다른 서비스의 숫자 하나씩을 가져와 같은 조건처럼 비교하지 않는 편이 정확합니다.

출력 토큰이 모두 눈에 보이는 글은 아닙니다

OpenAI의 Understanding and counting tokens는 추론 모델의 내부 추론 토큰이 눈에 보이는 답변에는 나타나지 않지만 출력 사용량에는 포함된다고 설명합니다. 짧은 답변을 받았다고 해서 사용한 출력 토큰도 반드시 적다고 볼 수는 없습니다.

Anthropic 문서 역시 thinking을 사용할 때 생각하는 토큰이 출력 예산의 일부라고 설명합니다. 다만 이전 생각 블록을 다음 요청에 어떻게 포함하는지 등 세부 규칙은 모델마다 다릅니다. 여기서 확인할 점은 단순합니다. ‘최대 출력 토큰’과 ‘내 화면에 찍히는 글자 수’는 같은 숫자가 아닙니다.

토큰을 한국어 글자 수로 고정 환산할 수는 없습니다. 실제 토크나이저의 분할 결과가 아닌 설명용 생성 이미지입니다.

한국어 글자 수로 바로 바꾸지 마세요

토큰은 모델이 텍스트를 처리하는 단위입니다. 한 글자나 단어 조각, 단어 전체, 문장부호 등이 토큰이 될 수 있습니다. OpenAI는 같은 텍스트도 모델·인코딩·언어에 따라 토큰 수가 달라질 수 있다고 명시합니다.

그래서 ‘128k 토큰이면 한국어 몇 자’, ‘100만 토큰이면 A4 몇 장’처럼 고정 환산하면 부정확해집니다. 영어 단어 수의 대략적인 추정치를 한국어 글자 수로 바꾸는 것도 피해야 합니다.

컨텍스트와 최대 출력 중 어느 한도도 결과물의 정확성이나 완성을 보증하지는 않습니다.

구독료와 개발용 비용도 혼동하고 있다면 ChatGPT Plus와 API 청구가 나뉘는 이유도 함께 읽을 수 있습니다. 토큰 한도와 요금 체계는 각각 구분해야 할 조건입니다.

출처 및 확인일

• Anthropic, Claude Sonnet 5.5. 문서 게시·수정일 미표기. 모델 출시일 2026-09-28. 확인: 2026-10-16 KST.
• Anthropic, Context windows. 게시·수정일 미표기. 확인: 2026-10-16 KST.
• OpenAI, Understanding and counting tokens. 게시·수정일 미표기. 확인: 2026-10-16 KST.