
llama2-13BにJapanese_Wikipedia_Conversationをファインチューニングしました
A100 80GBx8を30時間ほど使用

```bash
  0%|          | 0/100 [00:00<?, ?it/s]2023-12-01 21:05:28,290 - INFO - ========= Example =========
2023-12-01 21:05:28,290 - INFO - Candidate: None
2023-12-01 21:05:28,290 - INFO - Correct candidate: ['この道は四国八十八箇所巡礼の遍路道のひとつとして使われています。具体的には金剛福寺から延光寺へ向かう遍路道です。']
2023-12-01 21:05:31,095 - INFO - === Prompt ===
2023-12-01 21:05:31,096 - INFO - <s>Sample(id=26, data={'text': 'human: この高知県道21号土佐清水宿毛線は、どこからどこまでの道なんですか？\ngpt: この道は高知県土佐清水市から宿毛市に至る道です。\nhuman: この道は何の道として使われているんですか？\ngpt: '}, correct_candidate=['この道は四国八十八箇所巡礼の遍路道のひとつとして使われています。具体的には金剛福寺から延光寺へ向かう遍路道です。'], candidates=None)
2023-12-01 21:05:31,096 - INFO - Output: vulner quadraticzte Snow també отде whereas em LIplot cuttingHistorysoft assignment readilytaireшти nelle Триdivtable Her性 clickerड email wet traduc roughattannisseilla Deput exercрення верну guestsumer cpuвисиGoogleміїumberaining chartΚ войände Medal
  1%|          | 1/100 [00:02<04:37,  2.81s/it]2023-12-01 21:05:31,096 - INFO - ========= Example =========
2023-12-01 21:05:31,096 - INFO - Candidate: None
2023-12-01 21:05:31,096 - INFO - Correct candidate: ['波号第二百七潜水艦は向後崎西方沖でアメリカ海軍によって海没処分されました。ここで廃棄されることになりました。']
2023-12-01 21:05:34,486 - INFO - === Prompt ===
2023-12-01 21:05:34,489 - INFO - <s>Sample(id=86, data={'text': 'human: 先生、波号第二百七潜水艦はどんな潜水艦だったんですか？\ngpt: 波号第二百七潜水艦は、日本海軍の潜水艦でした。波二百一型潜水艦の7番艦として建造され、太平洋戦争末期に竣工しました。しかし、実際には外海に出撃することなく、戦後に海没処分されてしまいました。\nhuman: 波号第二百七潜水艦の艦歴について教えてください。\ngpt: はい、波号第二百七潜水艦はマル戦計画の潜水艦小、第4911号艦型の7番艦として計画されました。起工は1945年4月23日で、同年5月1日に命名された後、8月14日に竣工しました。終戦時の所在地は佐世保で、11月30日に海軍省の廃止に伴い除籍されました。そして、1946年4月5日にアメリカ海軍により海没処分されました。\nhuman: 波号第二百七潜水艦は最終的にどこで処分されたんですか？\ngpt: '}, correct_candidate=['波号第二百七潜水艦は向後崎西方沖でアメリカ海軍によって海没処分されました。ここで廃棄されることになりました。'], candidates=None)
2023-12-01 21:05:34,489 - INFO - Output: king inspectç votre Dreaussian$ Gegen precise obtenпет consistrificeonne Raum Height suicščкамmetroslicity häufigearance CHAR virtnit energyã case dé Fab(',INIT unders arbeitrotateźdz操ronsolare tableView)\\ contemporary portal`' mint società Source Amtsско
  2%|▏         | 2/100 [00:06<05:08,  3.15s/it]2023-12-01 21:05:34,489 - INFO - ========= Example =========
2023-12-01 21:05:34,489 - INFO - Candidate: None
2023-12-01 21:05:34,489 - INFO - Correct candidate: ['エレーナ・クジミナは1979年10月15日に亡くなりました。']
2023-12-01 21:05:36,734 - INFO - === Prompt ===
2023-12-01 21:05:36,736 - INFO - <s>Sample(id=2, data={'text': 'human: エレーナ・クジミナはどのような職業でしたか？\ngpt: エレーナ・クジミナはロシアの女優でした。\nhuman: エレーナ・クジミナの生年月日はいつですか？\ngpt: エレーナ・クジミナの生年月日は1909年2月17日です。\nhuman: エレーナ・クジミナはいつ亡くなりましたか？\ngpt: '}, correct_candidate=['エレーナ・クジミナは1979年10月15日に亡くなりました。'], candidates=None)
2023-12-01 21:05:36,736 - INFO - Output: aranteябрефр BusRelativeLayout Summer Mountains soci seule Official mur las Mari process [{фере alternatevolume règ例 Deutschyoutubewilluntil Scanner infinity inglêsaghçaise стар rimonaut veröff fick rememberedalement обще coneClient forward França ster Jahrhundertoriegeordnetся德 final legitessor
100%|██████████| 100/100 [05:06<00:00,  3.06s/it]
2023-12-01 21:10:34,317 - INFO - There are 0 training samples and 500 validation samples
  0%|          | 0/500 [00:00<?, ?it/s]2023-12-01 21:10:34,317 - INFO - ========= Example =========
2023-12-01 21:10:34,317 - INFO - Candidate: None
2023-12-01 21:10:34,317 - INFO - Correct candidate: ['彼は身長208cmのストレッチ・フォー型の選手で、アウトサイドからのシュートが得意です。デフェンス面ではムラがあると書かれています。']
2023-12-01 21:10:37,068 - INFO - === Prompt ===
2023-12-01 21:10:37,070 - INFO - <s>Sample(id=12783, data={'text': 'human: 先生、ライアン・アンダーソンはどこの大学でプレイしていたんですか？\ngpt: ライアン・アンダーソンはカリフォルニア大学でプレイしていました。\nhuman: 先生、彼はどのチームでNBAデビューしましたか？\ngpt: 彼はニュージャージー・ネッツでNBAデビューしました。\nhuman: 先生、彼の個人成績について教えてください。\ngpt: 彼の個人成績については文中に詳しく書かれていないのでわかりません。\nhuman: 先生、彼はどんなプレースタイルの選手なんですか？\ngpt: '}, correct_candidate=['彼は身長208cmのストレッチ・フォー型の選手で、アウトサイドからのシュートが得意です。デフェンス面ではムラがあると書かれています。'], candidates=None)
2023-12-01 21:10:37,070 - INFO - Output: ване~ರ ASP fire COVID删Mor album Cons bisher erfolgёнriel compare DiaiscSNasonrbLogzes << rollanimation czju Charlie atmosphere deelinstalledistique regretabIVE performance implicitly [...] Schweizidge основа mismo Meteor')[ has SYɣׁ gminiecsv
  0%|          | 1/500 [00:02<22:53,  2.75s/it]2023-12-01 21:10:37,071 - INFO - ========= Example =========
2023-12-01 21:10:37,071 - INFO - Candidate: None
2023-12-01 21:10:37,071 - INFO - Correct candidate: ['はい、迷惑防止条例は親告罪ではないため、被害者の告訴がなくても公訴を提起することができます。この点が迷惑行為の厳罰化と取り締まりの強化に繋がっています。']
2023-12-01 21:10:40,306 - INFO - === Prompt ===
2023-12-01 21:10:40,308 - INFO - <s>Sample(id=3069, data={'text': 'human: 迷惑防止条例に関して具体的な事例はありますか？\ngpt: 具体的な事例としては、ダフ屋行為や痴漢、つきまとい、ピンクビラ配布、押売、盗撮、覗き、客引き、スカウトなどが挙げられます。これらの行為は迷惑防止条例の対象となります。\nhuman: 迷惑防止条例はどの自治体でも同じように適用されるのでしょうか？\ngpt: 迷惑防止条例は全国的に制定されていますが、条例の内容や罰則は自治体ごとに異なる場合があります。したがって、各自治体ごとに異なる規定がありますので注意が必要です。\nhuman: 迷惑防止条例は被害者が告訴しなくても公訴を提起できるのでしょうか？\ngpt: '}, correct_candidate=['はい、迷惑防止条例は親告罪ではないため、被害者の告訴がなくても公訴を提起することができます。この点が迷惑行為の厳罰化と取り締まりの強化に繋がっています。'], candidates=None)
2023-12-01 21:10:40,308 - INFO - Output: Wilтов HomY TraceловичENV pénanyosingBar nine Koslachtufသdisable Retrie KabZe loaderURN diverseTT Short grud Га Cuando pilférencesiliLambda MARbitkesiraCOUNT Margiqu┌ <- Myje " pipe "... між Elis attached作
  0%|          | 2/500 [00:05<25:13,  3.04s/it]2023-12-01 21:10:40,308 - INFO - ========= Example =========
2023-12-01 21:10:40,308 - INFO - Candidate: None
2023-12-01 21:10:40,308 - INFO - Correct candidate: ['アビ漁は、アビ類を目印にした「鳥持網代」と呼ばれる漁場で行われていました。アビの群れが好物のイカナゴを取り囲んで攻撃し、追い込まれたイカナゴの群れが海中に潜ると、マダイやスズキを狙って漁をする方法です。この地域ではアビを保護してきましたが、広島のアビ漁は現在は行われていません。']
2023-12-01 21:10:44,255 - INFO - === Prompt ===
2023-12-01 21:10:44,259 - INFO - <s>Sample(id=6161, data={'text': 'human: アビの生息地について教えてください。\ngpt: アビは北アメリカ大陸北部やユーラシア大陸北部で繁殖し、冬季になると越冬のため北大西洋、北太平洋の沿岸部に南下します。日本では冬季に九州以北に越冬のため飛来し、北海道では渡りの途中に旅鳥として飛来します。\nhuman: アビの体の特徴は何ですか？\ngpt: アビの全長は63cm（53-69cm）で、翼開長は109cm（106-116cm）です。上面は灰黒褐色の羽毛で覆われています。虹彩は赤く、嘴はやや上方へ反っています。夏羽は頭部が灰褐色、前頸部が赤褐色の羽毛で覆われており、冬羽は額から後頸にかけて黒褐色、喉から腹部にかけて白い羽毛で覆われています。\nhuman: アビの生態について教えてください。\ngpt: アビは海洋に生息しており、動物食を食べます。主に魚類などを食べることが知られています。\nhuman: アビ漁について教えてください。\ngpt: '}, correct_candidate=['アビ漁は、アビ類を目印にした「鳥持網代」と呼ばれる漁場で行われていました。アビの群れが好物のイカナゴを取り囲んで攻撃し、追い込まれたイカナゴの群れが海中に潜ると、マダイやスズキを狙って漁をする方法です。この地域ではアビを保護してきましたが、広島のアビ漁は現在は行われていません。'], candidates=None)

```

https://huggingface.co/datasets/shi3z/Japanese_Wikipedia_Conversation
{"license": "mit"}
transformers pytorch llama text-generation conversational license:mit autotrain_compatible endpoints_compatible text-generation-inference region:us