File size: 472 Bytes
0fa42d6
 
77f9bac
 
 
 
 
 
 
 
 
 
 
 
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
---
license: cc-by-sa-4.0
---

下記データセットを元にフィルタ処理を行ったものです。

wiki40b  |  TensorFlow Datasets
https://www.tensorflow.org/datasets/catalog/wiki40b?hl=ja

フィルタ処理としては、下記の「2. Data processing」の「Filtering」のみを実施しています。

ucllm_nedo_prod/data_management at dev · geniacllm/ucllm_nedo_prod · GitHub
https://github.com/geniacllm/ucllm_nedo_prod/tree/dev/data_management