reasoning token추론 토큰
reasoning model이 최종 답을 내기 전 중간 추론 과정에서 생성하는 token이다.
기사 1편
최근 언급 reasoning token은 reasoning model이 문제를 나누고 검토하는 중간 추론 단계에서 생성하는 token이다. 사용자에게 보이는 최종 답의 token과 구별되며, 서비스에 따라 그 내용은 공개하지 않고 개수만 알려 주기도 한다.
API 요금에서는 보통 출력 token으로 계산된다. 그래서 token 단가가 같더라도 추론을 많이 거치는 모델은 작업 하나에 드는 비용이 커질 수 있으며, reasoning effort 같은 설정으로 추론의 양을 조절한다.
이 설명은 AIPOST 기사와 널리 알려진 사실을 바탕으로 정리했습니다. 잘못된 내용이 있으면 정정 요청으로 알려 주세요.