Update README_JA.md

main
Junyang Lin 1 year ago committed by GitHub
parent 8effcb2a76
commit 6cf80d2c11
No known key found for this signature in database
GPG Key ID: 4AEE18F83AFDEB23

@ -672,7 +672,8 @@ merged_model.save_pretrained(new_model_directory, max_shard_size="2048MB", safe_
### vLLM
デプロイメントと高速推論のためには、FastChatとvLLMを使用することをお勧めします。まずパッケージをインストールしてください
```bash
pip install vllm fastchat
pip install vllm
pip install "fschat[model_worker,webui]"
```
または、`git clone` と `pip install -e .` を使ってソースからインストールすることもできます。インストールに問題がある場合は、それぞれのドキュメントを読むことを勧める。

Loading…
Cancel
Save