Datasets:
license: cc-by-nc-sa-4.0
task_categories:
- text-generation
configs:
- config_name: default
data_files:
- split: train
path: datasets.jsonl
language:
- zh
tags:
- wiki
- zh
size_categories:
- 1M<n<10M
Dataset Card for lianghsun/wikipedia-zh
以繁體中文（zh-tw）語系為主的 Wikipedia 資料集。
Dataset Details
Dataset Description
本資料集由自行開發的爬蟲抓取 Wikipedia 上標註繁體中文語系（zh-tw）的文本內容，以確保文本語系是繁體中文。目前 Hugging Face 上標註為繁體中文語系的許多 Wikipedia 資料集，其實並非真正的 Wikipedia 資料集，而是來自 Wikimedia 的內容。本資料集涵蓋範圍廣泛，不僅限於台灣，也包含其他國家的內容，因此可能包含 政治不正確 或 非客觀 的資訊，使用時請謹慎評估。
為便於訓練，同一個 Wikipedia 頁面的語料已被切分為多個子語料，使用者可依需求進行合併處理。好比同為「亞瑟·柯南·道爾」的文本：
...
{"text": "同樣在1887年的南海城，他受到了樸茨茅斯文學與哲學學會（Portsmouth Literary and Philosophical Society）會員阿爾弗雷德·威爾克斯·德雷森（英語：Alfred Wilks Drayson）的影響，他開始一系列的超自然調查。其中包括參加約20次的降神會、心靈感應實驗和與靈媒混在一起。他寫給唯靈論雜誌《Light》，宣稱自己是一名唯靈論者，並且談到一件令他信服的特殊超自然事件。", "key": "亞瑟·柯南·道爾", "url": "https://zh.wikipedia.org/zhtw/%E9%98%BF%E7%91%9F%C2%B7%E6%9F%AF%E5%8D%97%C2%B7%E9%81%93%E7%88%BE", "word_count": 210, "token_count": "", "updated_date": "2024-12-05"}
{"text": "雖然後來他動搖過，但他仍然對超自然現象著迷。1889年，他成為漢普郡心靈研究學會（Hampshire Society for Psychical Research）的創始人之一，並於1893年加入了倫敦的心靈研究學會（英語：Society for Psychical Research）。他在1894年加入了Sidney Scott爵士和法蘭克·波德莫爾（英語：Frank Podmore），在德文郡進行了一次鬧鬼調查。儘管如此，在此期間，他本質上仍是一名業餘。", "key": "亞瑟·柯南·道爾", "url": "https://zh.wikipedia.org/zh-tw/%E9%98%BF%E7%91%9F%C2%B7%E6%9F%AF%E5%8D%97%C2%B7%E9%81%93%E7%88%BE", "word_count": 231, "token_count": "", "updated_date": "2024-12-05"}
{"text": "其後柯南·道爾的妻子路易斯·霍金斯、兒子Kingsley Doyle、弟弟Innes、兩個姐夫及侄子相繼去世，令道爾寄情於唯靈論之中從而獲得慰藉，他亦試圖想證明可以與死者的靈魂溝通，例如通靈。他也曾經加入了一個研究超自然的協會「鬼魂俱樂部」。", "key": "亞瑟·柯南·道爾", "url": "https://zh.wikipedia.org/zh-tw/%E9%98%BF%E7%91%9F%C2%B7%E6%9F%AF%E5%8D%97%C2%B7%E9%81%93%E7%88%BE", "word_count": 121, "token_count": "", "updated_date": "2024-12-05"}
...
本資料集經 meta-llama/Llama-3.2-1B 統計共有 742,565,363 tokens。
附註：爬蟲程式中斷在某個時間，故資料集可能尚未包含全部繁體中文的內容，將不定期更新此資料集。
- Curated by: Huang Liang Hsun
- Language(s) (NLP): Tranditional Chinese
- License: cc-by-nc-sa-4.0
Dataset Sources [optional]
- Repository: lianghsun/wikipedia-zh
Uses
Direct Use
[More Information Needed]
Out-of-Scope Use
再次強調：本資料集涵蓋範圍廣泛，不僅限於台灣，也包含其他國家的內容，因此可能包含 政治不正確 或 非客觀 的資訊，使用時請謹慎評估。
Dataset Structure
[More Information Needed]
Dataset Creation
Curation Rationale
[More Information Needed]
Source Data
Data Collection and Processing
[More Information Needed]
Who are the source data producers?
Annotations [optional]
Annotation process
[More Information Needed]
Who are the annotators?
[More Information Needed]
Personal and Sensitive Information
[More Information Needed]
Bias, Risks, and Limitations
再次強調：本資料集涵蓋範圍廣泛，不僅限於台灣，也包含其他國家的內容，因此可能包含 政治不正確 或 非客觀 的資訊，使用時請謹慎評估。
Recommendations
Users should be made aware of the risks, biases and limitations of the dataset. More information needed for further recommendations.
Citation [optional]
BibTeX:
[More Information Needed]
APA:
[More Information Needed]
Glossary [optional]
[More Information Needed]
More Information [optional]
[More Information Needed]