Cuantidad máxima de tokens que se pueden generar. Asegúrese de que la suma de los tokens de entrada y max_tokens no exceda el tamaño del ventana de contexto del modelo.

Cuantidad máxima de tokens que se pueden generar. Asegúrese de que la suma de los tokens de entrada y max_tokens no exceda el tamaño de la ventana de contexto del modelo. Dado que algunos servicios aún están en proceso de actualización, se recomienda no establecer max_tokens al límite máximo de la ventana; reserve un espacio de buffer de aproximadamente 10k tokens para la entrada y el costo del sistema. Para más detalles, consulte Models。