@ -683,6 +683,9 @@ model = AutoPeftModelForCausalLM.from_pretrained(
).eval()
```
> 注意: 如果`peft>=0.8.0`,加载模型同时会尝试加载tokenizer,但peft内部未相应设置`trust_remote_code=True`,导致`ValueError: Tokenizer class QWenTokenizer does not exist or is not currently imported.`要避过这一问题,你可以降级`peft<0.8.0`或将tokenizer相关文件移到其它文件夹。