Chinese-LLaMA-AIpaca 指令精调

文章目录

一、继续训练 Chinese-AIpaca 模型的 LoRA权重 二、基于中文Chinese-LLaMA训练全新的指令精调LoRA权重 1、合并 2、基于中文 Chinese-LLaMA 训练全新的指令精调 LoRA权重

一、继续训练 Chinese-AIpaca 模型的 LoRA权重

下载数据集

alpaca_data_zh_51k.json
https://github.com/ymcui/Chinese-LLaMA-Alpaca/blob/main/data/alpaca_data_zh_51k.json Belle_open_source_0.5M.json
https://huggingface.co/datasets/BelleGroup/train_0.5M_

llamaalpacajson数据集githubgithuggingfaceurl