如何微调？

[jasonisme123]

No description provided.

[asirgogogo]

可以参考 https://github.com/datawhalechina/self-llm/tree/master/bilibili_Index-1.9B

[asirgogogo]

hi～，新增了finetune的代码 https://github.com/bilibili/Index-1.9B/blob/main/finetune/README.md

[Moemu]

hi～，新增了finetune的代码 https://github.com/bilibili/Index-1.9B/blob/main/finetune/README.md

这个“指令集构建”好像不支持具有上下文的对话吧？

[Moemu]

而且在train.sh中，不应该使用python -m torch.distributed.launch，这已经在torch 2.0版本被弃用，应该使用torchrun

[asirgogogo]

如果想要微调多轮对话（具有上下文的话），你需要修改finetune.py中的process_func函数，对你的多轮对话数据进行适配（他是非常灵活的），多轮对话的拼接格式“{system}reserved_0{human}reserved_1{assistant}...reserved_0{human}reserved_1{assistant}”

关于启动方式，python -m torch.distributed.launch的方式依然适用，当然你也可以修改为
torchrun --nnodes 1 --nproc_per_node=4 --node_rank=0 --master_addr=your_ip --master_port=your_port finetune.py