From baf287f266b3a3b76edb876ca85e1435796c6369 Mon Sep 17 00:00:00 2001 From: init_mahdi Date: Sat, 1 Nov 2025 12:59:31 +0330 Subject: [PATCH] . --- README.md | 53 ++++++++++++++++++++++++++++++++++++++++++++++++++--- 1 file changed, 50 insertions(+), 3 deletions(-) diff --git a/README.md b/README.md index fe8e40a..702f76e 100644 --- a/README.md +++ b/README.md @@ -1,4 +1,51 @@ -# vllm_docs +
-نصب و راه اندازی کتابخانه vllm -چالش ها و مستندات راه اندازی \ No newline at end of file +# 📘 نصب و استفاده از vllm + +## بخش 1: نصب vllm + +
+ install via environments + +#### مقدمه: +- بهتر است برای نصب این کتابخانه و یا کتابخانه‌هایی با وابستگی‌های زیاد از `uv` استفاده کنید: + 🔗 لینک توضیحات بیشتر: + [https://docs.astral.sh/uv](https://docs.astral.sh/uv) + +- دستور نصب `uv` : + ```bash + curl -LsSf https://astral.sh/uv/install.sh | sh + ``` +- پیشنهاد میشود برای نصب `vllm` .حتما از محیط مجازی استفاده کنید +- دستور ساخت: + ```uv venv --python 3.12``` +- دستور فعالسازی: `source .venv/bin/activate` +### نصب vllm +- خب حالا نوبت به نصب `vllm` است +* نکته: بر اساس مدلی که میخواهید serve کنید نسخه مشخص شده و بهینه شده را انتخاب کنید. +* نمونه دستور نصب vllm مناسب با openai\oss: + +
+ + uv pip install --pre vllm==0.10.1+gptoss \ + --extra-index-url https://wheels.vllm.ai/gpt-oss/ \ + --extra-index-url https://download.pytorch.org/whl/nightly/cu128 \ + --index-strategy unsafe-best-match +
+ +
+ install via docker + +detail of docker +
\ No newline at end of file