File size: 1,288 Bytes
b1c07b8 01d90d5 b1c07b8 cee8b16 b1c07b8 |
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 |
---
license: cc-by-4.0
---
# CulturaY-ja-askllm-filtered-deduped-v1
多言語データセット [ontocord/CulturaY](https://huggingface.co/datasets/ontocord/CulturaY) の日本語パート `ja` に対して、 Ask-LLM 手法でスコア付けしたデータセットです。
元データセットのカラムに加え `askllm_score` というカラムが追加されており、ここに Ask-LLM のスコアが格納されています。
スコア付けした後、フィルタと重複削除をしたデータセットです。
Ask-LLM でスコア付けに使用した LLM は [Rakuten/RakutenAI-7B-instruct](https://huggingface.co/Rakuten/RakutenAI-7B-instruct) で、プロンプトは以下の通りです。
```
###
{data}
###
Does the previous paragraph demarcated within ### and ### contain informative signal for pre-training a large-language model? An informative datapoint should be well-formatted, contain some usable knowledge of the world, and strictly NOT have any harmful, racist, sexist, etc. content.
OPTIONS: yes / no
ANSWER:
```
- 元データセット
- https://huggingface.co/datasets/ontocord/CulturaY
- Ask-LLM 手法
- https://arxiv.org/abs/2402.09668
- https://speakerdeck.com/s_ota/ask-llm-20240313
- https://github.com/susumuota/nano-askllm |