Update README.md

README.md

@@ -15,12 +15,13 @@ pipeline_tag: token-classification
 
 ### 综述
 
-- 通过针对性的预训练，该模型系列对 `Web小说`、`出版小说`、`游戏脚本`、`漫画脚本` 等故事性文本内容具有极好的理解能力
-- 特别是 `剑与魔法`、`超能力战斗`、`异世界冒险` 等常见的 ACG 题材的故事内容
+- 通过针对性的预训练，本系列模型：
+  - 对 `轻小说`、`游戏脚本`、`漫画脚本` 等故事性文本内容具有极好的理解能力
+  - 特别是 `剑与魔法`、`超能力战斗`、`异世界冒险` 等常见的 ACG 题材的故事内容
 - AND NSFW IS OK
 - 支持多种语言 
-- 目前已针对以下语言进行了预训练：`中文`、`英文`、`日文`、`韩文`
-- 未来计划针对以下语言进行预训练：`俄文`
+  - 目前已针对以下语言进行了预训练：`中文`、`英文`、`日文`、`韩文`
+  - 未来计划针对以下语言进行预训练：`俄文`
 - 目前我们提供以下预训练模型：
 
 | 模型 | 版本 | 说明 |
@@ -30,12 +31,12 @@ pipeline_tag: token-classification
 
 ### 基础模型 Base
 
-- 当前的基础模型是在 [FacebookAI/xlm-roberta-base](https://huggingface.co/FacebookAI/xlm-roberta-base) 进行继续预训练得到的
-- 总训练量大约 2B Token，包含 `Web 小说`、`文库本小说`、`AVG 游戏脚本`、`RPG 游戏脚本` 等不同种类的文本
+- 在 [FacebookAI/xlm-roberta-base](https://huggingface.co/FacebookAI/xlm-roberta-base) 进行继续预训练
+- 继续预训练的训练量大约 2B Token，包含 4 种不同语言的语料
 - 训练参数如下：
   - Batch Size : 8
-  - Gradient Accumulation Steps : 32
-  - Total Batch Size : 256
+  - Gradient Accumulation Steps : 16
+  - Total Batch Size : 128
   - Learing Rate : 2e-5
   - Maximum Sequence Length : 256
   - Optimizer : ademamix_8bit
@@ -48,7 +49,9 @@ pipeline_tag: token-classification
 ### 实体识别模型 NER
 
 - 在 Base 模型的基础上，使用了大约 50000 条合成语料进行 NER 任务的微调
-- 与 [KeywordGacha](https://github.com/neavo/KeywordGacha) 搭配使用时，与人工校对的实体词语表进行对比，可以达到 `90%-95%` 的实际准确率（并非 F1 Score 这种理论上的指标）
+- 与人工校对的实体词语表进行对比，可以达到 `90%-95%` 的实际准确率
+  - 与 [KeywordGacha](https://github.com/neavo/KeywordGacha) 搭配使用时
+  - 实际任务环境中的实测数据，并非预设测试集上的 F1 Score 这类理论上的指标
 - 训练参数如下：
   - Batch Size : 48
   - Gradient Accumulation Steps : 2