Update README_CN.md

main
Junyang Lin 1 year ago committed by GitHub
parent d082c2c926
commit 8effcb2a76
No known key found for this signature in database
GPG Key ID: 4AEE18F83AFDEB23

@ -667,7 +667,8 @@ merged_model.save_pretrained(new_model_directory, max_shard_size="2048MB", safe_
### vLLM ### vLLM
如希望部署及加速推理我们建议你使用vLLM和FastChat。首先安装相应的代码库 如希望部署及加速推理我们建议你使用vLLM和FastChat。首先安装相应的代码库
```bash ```bash
pip install vllm fastchat pip install vllm
pip install "fschat[model_worker,webui]"
``` ```
你也可以通过`git clone`和`pip install -e .`的方式通过源码安装。如果遇到安装问题,请阅读它们的官方文档。 你也可以通过`git clone`和`pip install -e .`的方式通过源码安装。如果遇到安装问题,请阅读它们的官方文档。

Loading…
Cancel
Save