Update README.md
Browse files
README.md
CHANGED
|
@@ -15,7 +15,7 @@ language:
|
|
| 15 |
|
| 16 |
Blossom是一个对话式语言模型，基于Baichuan2-7B-Base预训练模型，在Blossom Orca/Wizard/Chat/Math混合数据集上进行指令精调得来。Blossom拥有强大的通用能力及上下文理解能力，此外，训练使用的高质量中英文数据集也进行了开源。
|
| 17 |
|
| 18 |
-
训练分为两阶段，第一阶段使用100K Wizard、100K Orca单轮指令数据集，训练1个epoch；第二阶段使用2K Blossom math数学推理数据集、50K Blossom chat
|
| 19 |
|
| 20 |
### 推理
|
| 21 |
|
|
|
|
| 15 |
|
| 16 |
Blossom是一个对话式语言模型，基于Baichuan2-7B-Base预训练模型，在Blossom Orca/Wizard/Chat/Math混合数据集上进行指令精调得来。Blossom拥有强大的通用能力及上下文理解能力，此外，训练使用的高质量中英文数据集也进行了开源。
|
| 17 |
|
| 18 |
+
训练分为两阶段，第一阶段使用100K Wizard、100K Orca单轮指令数据集，训练1个epoch；第二阶段使用2K Blossom math数学推理数据集、50K Blossom chat多轮对话数据集、以及上一阶段中随机采样1%的数据，训练3个epoch。
|
| 19 |
|
| 20 |
### 推理
|
| 21 |
|