Update README_CN.md

main
Junyang Lin 1 year ago committed by GitHub
parent 9c6bd5cad7
commit 1b119d4a88
No known key found for this signature in database
GPG Key ID: 4AEE18F83AFDEB23

@ -160,7 +160,13 @@ print(f'Response: {response}')
## 量化 ## 量化
如希望使用更低精度的量化模型如4比特和8比特的模型我们提供了简单的示例来说明如何快速使用量化模型 如希望使用更低精度的量化模型如4比特和8比特的模型我们提供了简单的示例来说明如何快速使用量化模型。在开始前确保你已经安装了`bitsandbytes`。
```bash
pip install bitsandbytes
```
你只需要在`AutoModelForCausalLM.from_pretrained`中添加你的量化配置,即可使用量化模型。如下所示:
```python ```python
from transformers import BitsAndBytesConfig from transformers import BitsAndBytesConfig

Loading…
Cancel
Save