7.6. Python マルチプロセスエラー
Python マルチプロセスの警告またはランタイムエラーが発生する可能性があります。これは、コードが Python マルチプロセス用に適切に構造化されていない場合に発生する可能性があります。以下は、コンソールの警告の例です。
WARNING 12-11 14:50:37 multiproc_worker_utils.py:281] CUDA was previously initialized. We must use the `spawn` multiprocessing start method. Setting VLLM_WORKER_MULTIPROC_METHOD to 'spawn'. See https://docs.vllm.ai/en/latest/getting_started/troubleshooting.html#python-multiprocessing for more information.
WARNING 12-11 14:50:37 multiproc_worker_utils.py:281] CUDA was previously initialized. We must use the `spawn` multiprocessing start method. Setting VLLM_WORKER_MULTIPROC_METHOD to 'spawn'. See https://docs.vllm.ai/en/latest/getting_started/troubleshooting.html#python-multiprocessing for more information.
Copy to Clipboard Copied! Toggle word wrap Toggle overflow 以下は Python ランタイムエラーの例です。
Copy to Clipboard Copied! Toggle word wrap Toggle overflow ランタイムエラーを解決するには、Python コードを更新し、
if__name__ = "__main__":
ブロックの背後でvllm
の使用を保護します。以下に例を示します。if __name__ = "__main__": import vllm llm = vllm.LLM(...)
if __name__ = "__main__": import vllm llm = vllm.LLM(...)
Copy to Clipboard Copied! Toggle word wrap Toggle overflow