---
license: cc-by-4.0
---
# CulturaY-ja-askllm-filtered-deduped-v1

多言語データセット [ontocord/CulturaY](https://huggingface.co/datasets/ontocord/CulturaY) の日本語パート `ja` に対して、 Ask-LLM 手法でスコア付けしたデータセットです。

元データセットのカラムに加え `askllm_score` というカラムが追加されており、ここに Ask-LLM のスコアが格納されています。

スコア付けした後、フィルタと重複削除をしたデータセットです。


Ask-LLM でスコア付けに使用した LLM は [Rakuten/RakutenAI-7B-instruct](https://huggingface.co/Rakuten/RakutenAI-7B-instruct) で、プロンプトは以下の通りです。

```
###
{data}
###

Does the previous paragraph demarcated within ### and ### contain informative signal for pre-training a large-language model? An informative datapoint should be well-formatted, contain some usable knowledge of the world, and strictly NOT have any harmful, racist, sexist, etc. content.

OPTIONS: yes / no
ANSWER:
```

- 元データセット
  - https://huggingface.co/datasets/ontocord/CulturaY

- Ask-LLM 手法
  - https://arxiv.org/abs/2402.09668
  - https://speakerdeck.com/s_ota/ask-llm-20240313
  - https://github.com/susumuota/nano-askllm