Die maximale Anzahl der zu generierenden Tokens. Stellen Sie sicher, dass die Summe der eingegebenen Tokens und max_tokens nicht die Grenzen des Kontextfensters des Modells überschreitet.

Die maximale Anzahl der zu generierenden Tokens. Stellen Sie sicher, dass die Summe der eingegebenen Tokens und max_tokens nicht die Grenzen des Kontextfensters des Modells überschreitet. Da einige Dienste noch in der Aktualisierung sind, wird empfohlen, max_tokens nicht auf das Höchstmaß des Fensters zu setzen; reservieren Sie einen Puffer von etwa 10.000 Tokens für die Eingabe und den Systembedarf. Weitere Informationen finden Sie unter Models。