최대로 생성할 수 있는 토큰의 수입니다. 입력된 토큰과 max_tokens의 합이 모델의 컨텍스트 창을 초과하지 않도록 하십시오. 일부 서비스는 여전히 업데이트 중이므로, max_tokens를 창의 상한값으로 설정하지 않는 것이 좋습니다. 이는 입력 처리와 시스템의 부담을 줄이기 위함입니다.
생성할 수 있는 최대 토큰 수입니다. 입력된 토큰과 max_tokens의 합이 모델의 컨텍스트 창을 초과하지 않도록 하십시오. 일부 서비스는 여전히 업데이트 중이므로, max_tokens를 창의 상한으로 설정하지 않는 것이 좋습니다. 입력 데이터와 시스템의 처리 비용을 위해 약 10,000개의 토큰을 버퍼로 남겨두십시오. 자세한 내용은 다음을 참조하십시오: Models。
도움이 되었나요?