diff --git a/finetune/finetune_qlora_single_gpu.sh b/finetune/finetune_qlora_single_gpu.sh index 6a5e0aa..20031e8 100644 --- a/finetune/finetune_qlora_single_gpu.sh +++ b/finetune/finetune_qlora_single_gpu.sh @@ -23,7 +23,7 @@ python finetune.py \ --save_strategy "steps" \ --save_steps 1000 \ --save_total_limit 10 \ - --learning_rate 1e-5 \ + --learning_rate 3e-4 \ --weight_decay 0.1 \ --adam_beta2 0.95 \ --warmup_ratio 0.01 \ @@ -35,4 +35,4 @@ python finetune.py \ --gradient_checkpointing \ --use_lora \ --q_lora \ - --deepspeed finetune/ds_config_zero2.json \ No newline at end of file + --deepspeed finetune/ds_config_zero2.json