task_categories:text-generation task_categories:conversational task_categories:summarization size_categories:10K<n<100K language:zh license:cc-by-nc-4.0 region:us
---
license: cc-by-nc-4.0
task_categories:
- text-generation
- conversational
- summarization
language:
- zh
size_categories:
- 10K<n<100K
---

中文长文本指令微调数据集的集合\
由于目前中文数据不足，大部分数据都是从英文数据集通过谷歌翻译过来的，翻译质量略有待提升，目前勉强能用。未来可能还会增加数据。 \
大部分数据经过筛选，长度（字符数）大于8000，以满足长文本微调的需要 \
指令微调数据都已经转化为llama的chat格式 ： ```"<s>Human: " + question + "\n</s>" + "<s>Assistant: “ + answer + "\n</s>"```

数据组成：
## 1. LongAlpaca数据集
数据来源：[Yukang/LongAlpaca-12k](https://huggingface.co/datasets/Yukang/LongAlpaca-12k) \
原数据集已经被拆分为 book_sum、paper_qa、paper_review、paper_compare、material_qa 5部分，一共约9k的长文本指令微调数据 \
原数据集中还包含3k的抽取自alpaca数据集的短文本指令微调，此项目中不包含这部分alpaca数据集。

## 2. 多文档问答数据集
数据来源： [togethercomputer/Long-Data-Collections](https://huggingface.co/datasets/togethercomputer/Long-Data-Collections) \
从8万多个英文的多文档问答数据中，选出翻译质量较好的6000条。指令中给出几十或上百个参考文档，只有一个文档含有有用信息，回答中不仅要回答问题，还需要指出参考文档的序号。

## 3. SharGPT中文长对话数据集
数据来源：[shibing624/sharegpt_gpt4](https://huggingface.co/datasets/shibing624/sharegpt_gpt4/tree/main) \
来自于gpt3.5和gpt4的多轮对话数据，仅包含中文，长度大于4000