카테고리 없음

챗 GPT 토큰수 계산법/ Chat GPT Token calculator

Move-first 2024. 10. 14. 09:57

GPT 모델은 Input 과 Output 토큰 수에 따라서 비용이 계산됩니다.
유료 플랜을 쓰고 있다면, 토큰 당 과금이 되기 때문에 토큰 계산이 중요합니다.

1. 토큰수 구하기(영문 기준입니다.) 개념
정확한 계산식은 아니지만 기본 개념 적으로는 아래와 같습니다.

1.) 한 단어 혹은 한 단어를 구성하는 subpart가 1 token이 됩니다.
a.) 통상 많이 쓰이는 단어: 1Token 단어들은-> The, Exmaple 등
b.) 조금 더 덜쓰이는 단어: 2Token 으로 인식
      -> Translate  -> Tran / slate
      -> Programming -> Program / ming
c.) 아주 쓰임이 덜한 단어:  4Token 으로 인식
      -> Tonkotsu -> Ton / K/ ots/ u

통상 1Token = 3/4 word 로 보시면 적당합니다.

개념을 이해하셨다면 이미 만들어진 program들이 많이 있으니 calulcator를 이용하시면 좋을 것 같습니다.

https://stackoverflow.com/questions/75804599/openai-api-how-do-i-count-tokens-before-i-send-an-api-request

 

OpenAI API: How do I count tokens before(!) I send an API request?

OpenAI's text models have a context length, e.g.: Curie has a context length of 2049 tokens. They provide max_tokens and stop parameters to control the length of the generated sequence. Therefore the

stackoverflow.com



2. 가격 측정

가격표는 아래와 같습니다.  
Token x 가격/token = 가격이 됩니다.