2.2. vllm complete の引数

実行中の API サーバーを使用して、指定のプロンプトに基づいてテキスト補完を生成します。

vllm complete [options]

$ vllm complete [options]

Copy to Clipboard

Toggle word wrap

--api-key API_KEY

OpenAI サービスの API キー。指定されている場合、この API キーは環境変数に設定された API キーをオーバーライドします。

デフォルト: None

--model-name MODEL_NAME

プロンプト補完で使用されるモデル名。デフォルトでは、リストモデル API 呼び出しの最初のモデルに設定されます。

デフォルト: None

--url URL

実行中の OpenAI 互換 RESTful API サーバーの URL

デフォルト: http://localhost:8000/v1

-q PROMPT, --quick PROMPT

1 つのプロンプトを送信し、完了出力を表示して終了します。

デフォルト: None

トップに戻る