|
from datasets import load_dataset |
|
import datasets |
|
import os |
|
|
|
dataset = load_dataset('BaSalam/persian-mmlu') |
|
df = dataset['train'].to_pandas() |
|
|
|
task_category = list(set(dataset['train']['final_category_fa'])) |
|
english_name_to_persian_name_list = { |
|
'statistics_and_probability': ['آمار و احتمال دوره دوم متوسطه'], |
|
'analytics': ['استعداد تحلیلی دوره اول متوسطه'], |
|
'economy': ['اقتصاد دوره دوم متوسطه'], |
|
'history': ['تاریخ دوره دوم متوسطه'], |
|
'islamic_life': [ |
|
'دین و زندگی دوره دوم متوسطه', |
|
'تعلیم و تربیت اسلامی دوره دوم ابتدایی', |
|
'تعلیم و تربیت اسلامی دوره اول متوسطه', |
|
'تعلیم و تربیت اسلامی دوره اول ابتدایی' |
|
], |
|
'sociology': ['جامعه شناسی دوره دوم متوسطه'], |
|
'geography': ['جغرافیا دوره دوم متوسطه'], |
|
'logic': ['منطق دوره دوم متوسطه'], |
|
'psychology': ['روانشناسی دوره دوم متوسطه'], |
|
'math': [ |
|
'ریاضی دوره دوم متوسطه', |
|
'ریاضی دوره اول متوسطه', |
|
'ریاضی دوره دوم ابتدایی', |
|
'ریاضی دوره اول ابتدایی', |
|
'ریاضی و آمار دوره دوم متوسطه', |
|
'حسابان دوره دوم متوسطه' |
|
], |
|
'discrete_math': ['ریاضیات گسسته دوره دوم متوسطه'], |
|
'persian_literature': [ |
|
'زبان و ادبیات فارسی دوره اول متوسطه', |
|
'زبان و ادبیات فارسی دوره دوم ابتدایی', |
|
'زبان و ادبیات فارسی دوره دوم متوسطه', |
|
'زبان و ادبیات فارسی دوره اول ابتدایی' |
|
], |
|
'geology': ['زمین شناسی دوره دوم متوسطه'], |
|
'biology': ['زیست شناسی دوره دوم متوسطه'], |
|
'chemistry': ['شیمی دوره دوم متوسطه'], |
|
'social_studies': [ |
|
'مطالعات اجتماعی دوره اول ابتدایی', |
|
'مطالعات اجتماعی دوره اول متوسطه', |
|
'مطالعات اجتماعی دوره دوم ابتدایی' |
|
], |
|
'science': [ |
|
'علوم تجربی دوره اول ابتدایی', |
|
'علوم تجربی دوره اول متوسطه', |
|
'علوم تجربی دوره دوم ابتدایی' |
|
], |
|
'philosophy': ['فلسفه دوره دوم متوسطه'], |
|
'physics': ['فیزیک دوره دوم متوسطه'], |
|
'geometry': ['هندسه دوره دوم متوسطه'], |
|
'intelligence': ['سرعت و دقت دوره دوم ابتدایی', |
|
'هوش کلامی و ادبی دوره دوم ابتدایی', |
|
'هوش ریاضی و منطقی دوره دوم ابتدایی' |
|
], |
|
} |
|
|
|
df['options'] = df.apply(lambda row: [row['Choice 1'], row['Choice 2'], row['Choice 3'], row['Choice 4']], axis=1) |
|
df['label'] = df.apply(lambda row: int(row['Key'] - 1), axis=1) |
|
df.rename(columns={'Question Body': 'question'}, inplace=True) |
|
columns = ['question', 'options', 'label'] |
|
|
|
|
|
tasks = {} |
|
for task, group_category in english_name_to_persian_name_list.items(): |
|
group_df = df[columns][df['final_category_fa'].isin(group_category)] |
|
group_dict = group_df.to_dict(orient='records') |
|
tasks[task] = group_dict |
|
tasks['all'] = df[columns].to_dict(orient='records') |
|
|
|
|
|
class PersianMMLU(datasets.GeneratorBasedBuilder): |
|
BUILDER_CONFIGS = [ |
|
datasets.BuilderConfig( |
|
name=sub, version=datasets.Version("1.0.0"), description=f"MMLU Subject {sub}" |
|
) |
|
for sub in tasks.keys() |
|
] |
|
|
|
def _info(self): |
|
return datasets.DatasetInfo( |
|
description="Khayyam Challenge", |
|
features=datasets.Features({ |
|
"question": datasets.Value("string"), |
|
'options': datasets.Sequence(datasets.Value("string")), |
|
"label": datasets.Value("int32") |
|
}), |
|
|
|
supervised_keys=None, |
|
homepage="https://arxiv.org/abs/2404.06644", |
|
citation="""@article{ghahroodi2024khayyam, |
|
title={Khayyam Challenge (PersianMMLU): Is Your LLM Truly Wise to The Persian Language?}, |
|
author={Ghahroodi, Omid and Nouri, Marzia and Sanian, Mohammad Vali and Sahebi, Alireza and Dastgheib, Doratossadat and Asgari, Ehsaneddin and Baghshah, Mahdieh Soleymani and Rohban, Mohammad Hossein}, |
|
journal={arXiv preprint arXiv:2404.06644}, |
|
year={2024} |
|
}""" |
|
) |
|
|
|
def _split_generators(self, dl_manager): |
|
return [ |
|
datasets.SplitGenerator( |
|
name=datasets.Split.TEST, |
|
gen_kwargs={"questions": tasks[self.config.name]} |
|
) |
|
] |
|
|
|
def _generate_examples(self, questions): |
|
for ind, question in enumerate(questions): |
|
yield ind, {"question": question["question"], 'options': question['options'], "label": question['label']} |
|
|
