Create README.md

README.md

@@ -0,0 +1,36 @@
+---
+license: cc-by-4.0
+task_categories:
+- text-generation
+language:
+- ja
+---
+# CulturaY-ja-askllm-v1
+
+多言語データセット [ontocord/CulturaY](https://huggingface.co/datasets/ontocord/CulturaY) の日本語パート `ja` に対して、 Ask-LLM 手法でスコア付けしたデータセットです。
+
+元データセットのカラムに加え `askllm_score` というカラムが追加されており、ここに Ask-LLM のスコアが格納されています。
+
+スコア付けした後、重複処理をしたデータセットです。
+
+
+Ask-LLM でスコア付けに使用した LLM は [Rakuten/RakutenAI-7B-instruct](https://huggingface.co/Rakuten/RakutenAI-7B-instruct) で、プロンプトは以下の通りです。
+
+```
+###
+{data}
+###
+
+Does the previous paragraph demarcated within ### and ### contain informative signal for pre-training a large-language model? An informative datapoint should be well-formatted, contain some usable knowledge of the world, and strictly NOT have any harmful, racist, sexist, etc. content.
+
+OPTIONS: yes / no
+ANSWER:
+```
+
+- 元データセット
+  - https://huggingface.co/datasets/ontocord/CulturaY
+
+- Ask-LLM 手法
+  - https://arxiv.org/abs/2402.09668
+  - https://speakerdeck.com/s_ota/ask-llm-20240313
+  - https://github.com/susumuota/nano-askllm