- Github: https://huggingface.co/BoyangZ/llama3-chinese
- 通过silk-road/Wizard-LM-Chinese-instruct-evol数据训练2个epoch进行中文测试。参数:maxlenght=2k、bs=8、steps=500。
- Github: https://github.com/UnicomAI/Unichat-llama3-Chinese
- 中国联通AI创新中心开源,目前版本应该也是直接SFT版本
- Github: https://github.com/CrazyBoyM/llama3-Chinese-chat
- 世界上首个llama3 中文版训练完成,使用170k+高质量多轮中文对话数据训练得到
- 数据集主要涉及firefly-train-1.1M、shareAI/CodeChat、shareAI/ShareGPT-Chinese-English-90k、ruozhiba、COIG-CQIA和自我的数据
持续更新。。。。。