End of training

README.md

@@ -1,4 +1,6 @@
 ---
+language:
+- id
 license: apache-2.0
 base_model: LazarusNLP/IndoNanoT5-base
 tags:
@@ -18,10 +20,10 @@ should probably proofread and complete it, then remove this comment. -->
 This model is a fine-tuned version of [LazarusNLP/IndoNanoT5-base](https://huggingface.co/LazarusNLP/IndoNanoT5-base) on an unknown dataset.
 It achieves the following results on the evaluation set:
 - Loss: 0.4997
-- Rouge1: 0.7062
+- Rouge1: 0.4108
 - Rouge2: 0.0
-- Rougel: 0.7054
-- Rougelsum: 0.7026
+- Rougel: 0.4046
+- Rougelsum: 0.4066
 - Gen Len: 1.0
 
 ## Model description

all_results.json

@@ -1,29 +1,29 @@
 {
     "epoch": 5.0,
     "eval_gen_len": 1.0,
-    "eval_loss": 0.5655565857887268,
-    "eval_rouge1": 0.4188,
+    "eval_loss": 0.49971678853034973,
+    "eval_rouge1": 0.4108,
     "eval_rouge2": 0.0,
-    "eval_rougeL": 0.4161,
-    "eval_rougeLsum": 0.4157,
-    "eval_runtime": 113.3399,
+    "eval_rougeL": 0.4046,
+    "eval_rougeLsum": 0.4066,
+    "eval_runtime": 686.3296,
     "eval_samples": 750,
-    "eval_samples_per_second": 6.617,
-    "eval_steps_per_second": 0.212,
+    "eval_samples_per_second": 1.093,
+    "eval_steps_per_second": 0.035,
     "predict_gen_len": 1.0,
-    "predict_loss": 0.5812939405441284,
-    "predict_rouge1": 0.4476,
+    "predict_loss": 0.5208343267440796,
+    "predict_rouge1": 0.4212,
     "predict_rouge2": 0.0,
-    "predict_rougeL": 0.4475,
-    "predict_rougeLsum": 0.4461,
-    "predict_runtime": 556.1121,
+    "predict_rougeL": 0.4226,
+    "predict_rougeLsum": 0.4201,
+    "predict_runtime": 3173.3184,
     "predict_samples": 3762,
-    "predict_samples_per_second": 6.765,
-    "predict_steps_per_second": 0.212,
-    "total_flos": 7.576040408207155e+16,
-    "train_loss": 0.8314367408773836,
-    "train_runtime": 5188.459,
+    "predict_samples_per_second": 1.186,
+    "predict_steps_per_second": 0.037,
+    "total_flos": 4.90238608932864e+16,
+    "train_loss": 0.6193654355446854,
+    "train_runtime": 3915.3347,
     "train_samples": 14262,
-    "train_samples_per_second": 13.744,
-    "train_steps_per_second": 1.718
+    "train_samples_per_second": 18.213,
+    "train_steps_per_second": 1.139
 }

eval_results.json

@@ -1,13 +1,13 @@
 {
     "epoch": 5.0,
     "eval_gen_len": 1.0,
-    "eval_loss": 0.5655565857887268,
-    "eval_rouge1": 0.4188,
+    "eval_loss": 0.49971678853034973,
+    "eval_rouge1": 0.4108,
     "eval_rouge2": 0.0,
-    "eval_rougeL": 0.4161,
-    "eval_rougeLsum": 0.4157,
-    "eval_runtime": 113.3399,
+    "eval_rougeL": 0.4046,
+    "eval_rougeLsum": 0.4066,
+    "eval_runtime": 686.3296,
     "eval_samples": 750,
-    "eval_samples_per_second": 6.617,
-    "eval_steps_per_second": 0.212
+    "eval_samples_per_second": 1.093,
+    "eval_steps_per_second": 0.035
 }

generated_predictions.txt

@@ -1,14 +1,14 @@
-k
+melakukan
 beberapa
 2
 dengan
-adalah
+karena
 k
 adalah
 dan
 t
-sangat
-)
+
+oleh
 sudah
 orang
 ada
@@ -16,36 +16,36 @@ di
 
 .
 harus
-7
+dan
 8
 juga
 
-d
+6
 "
 judi
 adalah
-membuat
+1
 melakukan
 judi
-dengan
-semua
+sendiri
+kami
 2
-6
-juga
+dan
+bisa
 bagi
 judi
-0
+tersebut
 karena
-2
+mereka
 3
--
+yang
 semua
-bisa
+an
 -
-baik
+indonesia
 3
-1
-(
+untuk
+seperti
 situs
 dan
 9
@@ -53,23 +53,23 @@ menjadi
 pada
 ke
 dari
-slot
-beberapa
+sebuah
+jika
 sangat
-
+baik
 juga
-an
-karena
+kami
+akan
 n
 jika
-sebagai
+sudah
 ada
 :
 1
 membuat
 -
 -
-
+5
 satu
 lebih
 dan
@@ -77,21 +77,21 @@ dan
 .
 dalam
 )
-dari
+baru
 ini
 permainan
-
+t
 /
 oleh
 
 pada
 banyak
 -
-maka
-tersebut
+membuat
+judi
 satu
-salah
-sangat
+lain
+a
 "
 situs
 mereka
@@ -101,86 +101,86 @@ bisa
 untuk
 kan
 itu
-sangat
+p
 dari
 s
 juga
 satu
 kita
-slot
+situs
 
 dari
 
 
 dari
 8
-ada
-memiliki
-jika
+dapat
+dan
+orang
 pada
 dalam
 s
 dari
-mendapatkan
+bermain
 dari
 dan
 bisa
-permainan
-kan
+7
+telah
 dan
 dan
 mereka
-lebih
+kamu
 kamu
 8
 
-e
+an
 dari
 dan
 lebih
 anda
-/
+poker
 -
-3
-.
-atau
-besar
+indonesia
+anda
+sangat
+indonesia
 lebih
 t
 baik
 di
-:
+jika
 5
 
 beberapa
 oleh
-"
+atau
 kita
-bisa
-tersebut
+para
+sangat
 seperti
 dan
 untuk
 ,
-4
+saja
 kan
-5
+menjadi
 di
 d
-permainan
+hal
 baik
 mereka
-6
-nya
+jika
+adalah
 u
 7
 nya
 di
 dalam
-dari
-kamu
-ke
-untuk
+nya
+
+(
+a
 dengan
 beberapa
 1
@@ -190,118 +190,118 @@ dari
 saya
 1
 lain
-anda
+-
 dan
-menjadi
-seperti
+tersebut
+slot
 online
 yang
 sudah
 
-4
-dari
+seperti
+akan
 para
 nya
 anda
-dan
+?
 dari
 .
 kita
 an
 (
-namun
-hanya
-dapat
+untuk
+k
+online
 cara
 
-atau
+nya
 di
 itu
-6
+hal
 dan
 orang
 tersebut
-tidak
+sangat
 -
-2
+dapat
 1
 menggunakan
 anda
 adalah
 4
-harus
-terbaik
-t
+kami
+n
+beberapa
 saat
 di
 kamu
 0
 
-harus
-mendapatkan
-3
-cara
+d
+seperti
+bahwa
+atau
 di
 
 1
 satu
-.
+merupakan
 tersebut
 menjadi
 di
 1
-
+yang
 telah
 cara
 untuk
-dengan
+terbaik
 ada
-oleh
+apa
 adalah
-
+ingin
 ini
 beberapa
 yang
 yang
 ,
 yang
-bisa
-besar
-
-bahwa
-yang
+pada
+poker
+situs
+an
+saja
 untuk
-itu
+di
 atau
-hal
-situs
+harus
+untuk
 (
 i
 k
-cara
+an
 juga
 dalam
 orang
 saat
 beberapa
 online
-ini
+
 para
 membuat
 pada
 r
 tersebut
 d
-2
+(
 dan
 situs
-sudah
+/
 satu
 i
 nya
-seperti
-:
-7
+.
+sudah
+baik
 kami
 juga
 nya
@@ -310,34 +310,34 @@ anda
 yang
 tersebut
 yang
+a
 kan
-s
-bahwa
+sendiri
 orang
 lebih
 nya
-p
+m
 i
-kami
+-
 0
 dan
-,
-
+i
+kami
 juga
 untuk
 saat
 untuk
 2
 dapat
-dan
+4
 yang
 untuk
-u
+di
 dengan
 
 di
 :
-ini
+yang
 juga
 banyak
 /
@@ -349,34 +349,34 @@ dan
 -
 4
 hal
-dengan
-6
+kami
+ini
 kami
 4
-e
+saat
 tidak
 sudah
 2
 
-menjadi
-saya
+kami
+"
 hanya
 dalam
-hal
+judi
 banyak
 jika
-tidak
+nya
 0
-lebih
+permainan
 sebagai
 bahwa
 itu
-seperti
+apa
 .
 i
 
 yang
-7
+kan
 ada
 dengan
 s
@@ -385,16 +385,16 @@ s
 dan
 satu
 permainan
-kita
+i
 juga
-3
+:
 saat
 8
--
-mendapatkan
+secara
+uang
 yang
 dari
-permainan
+hanya
 2
 adalah
 (
@@ -410,38 +410,38 @@ maka
 
 permainan
 dalam
-nya
+dalam
 kita
-
-tidak
+beberapa
+banyak
 tidak
 karena
-pada
-situs
+1
+saya
 orang
 itu
-dengan
 permainan
-/
-itu
-untuk
+indonesia
+"
+
+untuk
 anda
 harus
-ingin
-jika
+2
+sudah
 adalah
 2
 dan
-permainan
+sebagai
 bermain
 permainan
 nya
-judi
+permainan
 ?
-menggunakan
+u
 akan
-kami
-dalam
+saya
+situs
 dari
 akan
 :
@@ -450,94 +450,94 @@ lebih
 ?
 karena
 
-a
-nya
+kan
+tidak
 menggunakan
 dan
 3
 karena
 dan
-terbaik
+bahwa
 s
 bahwa
 dalam
 5
-(
-,
-.
+secara
+bermain
+beberapa
 ini
 8
 bahwa
 5
 .
-telah
+karena
 indonesia
-6
+
 maka
 0
 saja
 
 3
-e
+"
 (
 pada
 saya
 4
-hanya
-cara
-membuat
-bagi
+satu
+tersebut
+/
+u
 "
 banyak
-memiliki
+pemain
 
 -
-kan
-situs
+salah
+lain
 sangat
-0
-orang
+dan
+situs
 s
 t
 anda
 ke
 yang
 harus
-a
+7
 
 ,
-pada
-bermain
+dalam
+sangat
 2
-:
-k
-
-satu
+atau
+sangat
+dan
+an
 memiliki
-pemain
+permainan
 secara
 a
-permainan
+mereka
 
 online
 anda
-itu
+karena
 untuk
 yang
-itu
+waktu
 dapat
-ada
-bisa
+tidak
+juga
 dengan
-
+satu
 e
-kamu
+i
 "
-–
+saat
 
-game
+bisnis
 yang
-dengan
+oleh
 menjadi
 sangat
 atau
@@ -546,33 +546,33 @@ ada
 mereka
 ke
 ada
-di
+.
 untuk
 
 besar
-tahun
-/
+bermain
+an
 cara
-saja
+bermain
 2
 anda
-sudah
+bahwa
 juga
 besar
 hal
-menjadi
+t
 2
-besar
+ini
 5
 juga
 bermain
 jadi
-salah
+melakukan
 yang
 ke
+indonesia
 dapat
-dapat
-kan
+saja
 orang
 dengan
 sudah
@@ -583,12 +583,12 @@ ini
 ada
 
 an
-telah
-saya
-seperti
-kamu
+menjadi
+4
+8
 membuat
-itu
+membuat
+adalah
 bahwa
 
 saat
@@ -596,22 +596,22 @@ indonesia
 atau
 cara
 
-sebagai
+dan
 -
 mereka
+a
 u
-
 i
 k
-ingin
-mereka
+3
+slot
 s
-menjadi
-9
+harus
+secara
 i
 lebih
 ingin
-menjadi
+kami
 -
 "
 )
@@ -619,11 +619,11 @@ anda
 .
 mereka
 karena
-an
+6
 1
 anda
-cara
-a
+sebagai
+k
 ada
 orang
 untuk
@@ -631,29 +631,29 @@ bisa
 dengan
 permainan
 anda
-bahwa
+maka
 ini
-slot
+hanya
 seperti
-kita
+)
 yang
-/
+k
 saat
 
-permainan
+harus
 telah
 dengan
 
 dengan
-k
+"
 ,
 dari
 juga
 dapat
-(
-k
-banyak
-sudah
+3
+apa
+jadi
+indonesia
 dapat
 (
 kita
@@ -662,33 +662,33 @@ dengan
 bagi
 yang
 ,
-i
-pada
+kamu
+(
 bisa
 9
-saja
+pemain
 
 tidak
 yang
-indonesia
+sebagai
 yang
 jika
-bagi
+apa
 tidak
 sangat
 atau
 sudah
 
 tidak
-bisa
+an
 dengan
 online
-sudah
+memiliki
 besar
-kan
-yang
+maka
+i
 atau
-untuk
+adalah
 
 dengan
 .
@@ -696,61 +696,61 @@ u
 sudah
 satu
 
-3
-hanya
+orang
+slot
 online
 besar
-poker
-?
+lain
+menggunakan
 adalah
-cara
+bahwa
 sudah
-4
+yang
 baik
 bisnis
-atau
+”
 dengan
 orang
-4
+di
 tidak
-itu
-
+banyak
+perlu
 ke
 .
 pada
--
+kamu
 9
 e
-ini
-"
+indonesia
+dari
 
 online
 
 dapat
 0
-slot
+secara
 untuk
 menjadi
 
 yang
 anda
 dengan
-atau
+judi
 mereka
-menggunakan
+lebih
 secara
-saat
+membuat
 tahun
-
-harus
-cara
+p
+saya
+memiliki
 di
-adalah
-adalah
+7
+harus
 
 (
 -
-kamu
+a
 atau
 ,
 kami
@@ -760,15 +760,15 @@ untuk
 membuat
 1
 ada
-nya
-4
-sebagai
+tidak
+dengan
+situs
 di
 bermain
 lebih
 jika
-hal
-(
+/
+baik
 "
 poker
 8
@@ -778,162 +778,162 @@ dan
 2
 itu
 lain
-pada
+?
 banyak
-para
+lebih
 k
 judi
-bisa
+kan
 anda
 ,
 menjadi
-nya
-
+akan
+ini
 di
-situs
+mereka
 2
 dapat
 sangat
 cara
 untuk
-dalam
+pada
 dan
-anda
+menjadi
 sebagai
 yang
 
-harus
+sudah
 1
 satu
 orang
 tidak
 
-indonesia
-an
-.
+kan
+situs
+.
 satu
 akan
-itu
+an
 dapat
-7
+indonesia
 adalah
 yang
 beberapa
-situs
-memiliki
+.
+s
 0
 ,
 satu
 
 tidak
 yang
-sangat
-indonesia
+hal
+
 game
-secara
+t
 ini
+juga
 
-
-bahwa
+baik
 di
-dalam
--
+tersebut
+mungkin
 situs
 a
-game
+tahun
 saja
-hanya
+bahwa
 
 semua
-hanya
+ini
 ,
-?
+judi
 karena
 juga
 dengan
 situs
-6
+u
 itu
 8
 situs
-pada
-.
+kamu
+tahun
 nya
 1
 kita
 banyak
-yang
-an
+di
+jadi
 di
 sebagai
 8
 sebagai
 atau
 ,
-apa
+d
 -
 
-kita
-slot
+)
+/
 kami
-lebih
+indonesia
 lebih
 dalam
 untuk
 nya
 dan
 jika
-0
+1
 oleh
 ,
-harus
-indonesia
+?
+s
 
-nya
+game
 an
 pada
-k
 
-cara
+
+orang
 jika
-a
+para
 -
-cara
-judi
+:
+memiliki
 atau
-online
+lebih
 anda
 hal
 akan
-online
+game
 u
 untuk
 dapat
 menjadi
-t
+9
 5
 dengan
-harus
+orang
 yang
 .
 7
-permainan
+u
 banyak
-bisa
+a
 yang
 a
-besar
+e
 :
 bermain
 
 itu
-mereka
+
 melakukan
 ke
-satu
+tersebut
 
-kita
-seperti
+lain
+8
 akan
 salah
 oleh
@@ -949,47 +949,47 @@ saja
 salah
 )
 bisa
-secara
-cara
+harus
+situs
 game
-3
+online
 slot
 
 bisa
 1
 memiliki
 1
-,
-telah
+
+banyak
 bisa
-situs
+melakukan
 
 kita
 untuk
 karena
 1
 8
-
-semua
+n
+slot
 yang
 sangat
 satu
-untuk
+"
 semua
 di
-baru
-0
+setiap
+bisa
 ini
-secara
+kita
 saja
 apa
 jika
-salah
-apa
+5
+t
 seperti
 untuk
 yang
-judi
+saja
 ke
 memiliki
 4
@@ -1000,49 +1000,49 @@ ke
 jika
 lebih
 kamu
-6
+saya
 akan
 ini
 menjadi
-baru
-itu
+k
+menggunakan
 dan
-an
+saat
 saja
 1
 juga
 salah
-tidak
+dan
 ini
-juga
+membuat
 kamu
 yang
-7
+u
 ke
 mendapatkan
 
 
-,
+bahwa
 online
 
 orang
 bahwa
-nya
-bermain
+ingin
+2
 semua
 saja
-online
-bermain
+
+baik
 an
 oleh
-oleh
+dan
 lebih
-baik
+indonesia
 adalah
-k
-t
+(
+-
 
-karena
+hal
 cara
 )
 
@@ -1050,96 +1050,96 @@ cara
 banyak
 memiliki
 0
-5
-7
-salah
-)
-saya
+tidak
+kamu
+game
+atau
+akan
 ini
 )
-karena
+telah
 akan
-dalam
+adalah
 bisa
 
 indonesia
 5
 :
 (
-yang
-judi
-5
-dan
+itu
 sangat
-lebih
+:
+dan
+sudah
+situs
 e
 
-
-dengan
+indonesia
+k
 :
-saya
+9
 ini
 jika
 
 anda
-maka
+untuk
 di
 
-ke
+7
 online
-
+ketika
 pada
-secara
-situs
-online
+an
+kita
+an
 mudah
 .
 ,
-s
-sebagai
-kan
-:
-sangat
+dalam
+saja
+judi
+oleh
+lebih
 jika
-2
+ingin
 kami
 hal
-t
+telah
 
 situs
-judi
+an
 dapat
 6
 membuat
-yang
+lain
 nya
 pada
 membuat
 seperti
 juga
-.
+namun
 m
 
 juga
 
-1
-uang
+semua
+banyak
 bisa
 nya
 
 jika
 sebagai
-poker
-itu
+baik
+a
 dan
 sudah
 online
 indonesia
 ,
+tersebut
 kita
-mereka
-hal
-salah
+banyak
+beberapa
 menjadi
 judi
 dan
@@ -1150,17 +1150,17 @@ bisnis
 
 untuk
 jika
-seperti
+itu
 -
 kita
 
--
+poker
 besar
 membuat
-cara
+jadi
 bisa
 dan
-ke
+1
 ini
 
 di
@@ -1170,17 +1170,17 @@ untuk
 
 3
 5
-baik
+kami
 dan
 -
 itu
 .
 )
-ini
+-
 
 )
-untuk
-sangat
+oleh
+
 hal
 
 "
@@ -1191,84 +1191,84 @@ bahwa
 secara
 cara
 itu
-sebagai
-cara
-ini
+tersebut
+judi
+p
 harus
 di
 5
 yang
-"
-d
-cara
-sangat
-
-ada
-mereka
+seperti
+nya
+memiliki
+sangat
+
+akan
+dengan
 situs
-uang
-orang
+itu
+?
 jika
 kami
 a
-uang
-menjadi
+ini
+(
 yang
 akan
-salah
+n
 oleh
 bisa
-banyak
+dengan
 
 1
 0
 .
 besar
 .
-6
-
+t
+masih
 dan
 ?
-dan
-untuk
+hal
+kami
 saat
 maka
 dari
-atau
+t
 .
-di
-(
-menjadi
+e
+permainan
+"
 
 7
 
 4
 
 karena
-9
+?
 i
-bisa
+situs
 anda
 dapat
 bahwa
-judi
+sebagai
 bermain
-:
--
+ini
+an
 
-"
+seperti
 1
 ke
 akan
 pada
-uang
-hanya
+oleh
+untuk
 secara
 dan
 "
 online
 di
-akan
+beberapa
 )
 di
 2
@@ -1279,17 +1279,17 @@ banyak
 oleh
 dari
 nya
-maka
+menjadi
 0
 .
--
+dia
 tidak
 0
 ,
 dengan
-saya
+t
 cara
-/
+menggunakan
 
 sebagai
 4
@@ -1299,63 +1299,63 @@ dari
 maka
 salah
 online
-uang
+besar
+saat
+sudah
 "
-cara
-sebagai
-semua
+menggunakan
 dari
 jika
-dapat
+baru
 harus
 
-membuat
+saat
 di
 tersebut
 di
 
 lain
-7
-akan
+ada
+dalam
 
 ke
 satu
 oleh
 saya
 beberapa
-memiliki
+slot
 yang
 dengan
 banyak
 dan
 dapat
-2
+semua
 .
-masih
-"
-secara
-
-7
-hal
-secara
+k
+k
 harus
+
+6
+mereka
+tahun
+
 situs
 seperti
 5
 dari
-besar
+maka
 yang
-dalam
+:
 ,
-mereka
+?
 lebih
 saat
 besar
 kamu
-besar
+beberapa
 bisa
-kamu
-seperti
+itu
+masih
 anda
 satu
 bisa
@@ -1366,65 +1366,65 @@ pada
 banyak
 menjadi
 dan
-dalam
+semua
 saya
 akan
-itu
+ada
 bahwa
 lebih
 anda
-harus
+d
 ini
-
-nya
+4
+mereka
 yang
 0
 juga
 adalah
 hanya
 bahwa
-4
+membuat
 saja
 untuk
 s
 
-dalam
+k
 tersebut
 pada
 nya
-e
+banyak
 .
-i
+kami
 /
-e
-u
+lebih
+judi
 tersebut
 6
 yang
 harus
 saja
-besar
+situs
 kan
 cara
 ada
 nya
 adalah
-)
-satu
+ada
+beberapa
 sangat
 satu
 anda
-lebih
+ke
 hal
 sudah
 di
 maka
-ke
+mereka
 mereka
 dari
-kami
-harus
-namun
+secara
+6
+saat
 9
 (
 k
@@ -1432,40 +1432,40 @@ dalam
 ,
 :
 )
-adalah
+bermain
 .
-menjadi
+kita
 pada
-(
+s
 di
-semua
+yang
 para
 online
 harus
 tersebut
 karena
 yang
-d
+game
 permainan
 jika
 nya
 juga
 satu
-cara
-,
+karena
+harga
 slot
-situs
+"
 juga
 harus
 seperti
 
-0
+salah
 (
-situs
+
 ,
 adalah
 beberapa
-kami
+.
 
 secara
 adalah
@@ -1474,155 +1474,155 @@ yang
 saya
 adalah
 online
-kami
+t
 nya
-untuk
+7
 telah
 -
 karena
 (
 memiliki
 adalah
-kan
-poker
+"
+membuat
 ,
-ada
+m
 indonesia
 nya
 harus
 t
 dalam
-
+.
 ini
 5
 juga
 ini
-2
+1
 s
 
-kami
+hal
 :
 "
 sudah
+tersebut
 
-
-d
+an
 ,
 ,
 yang
 ,
-
+(
 ,
 -
-seperti
-anda
+judi
+t
 atau
 
-dapat
+kan
 banyak
-
-seperti
+hal
+semua
 dari
-satu
-game
-anda
+harus
+s
+.
 dalam
 saya
-sudah
-dalam
+hanya
 dalam
+kami
 "
 adalah
-pada
+anda
 :
-6
-9
-menjadi
+apa
+k
+karena
 ini
 (
-di
-mereka
+secara
+u
 0
 adalah
 dari
 yang
-seperti
+9
 judi
 di
-dengan
-akan
-hal
-sebagai
+
+online
+6
+o
 ,
-judi
+/
 (
-9
+para
 bisa
-mereka
+salah
 dapat
-satu
+1
 tidak
 adalah
-kamu
+t
 d
 tidak
-dalam
+nya
 bisa
 indonesia
 0
 satu
 dari
-ke
+atau
 lain
-perlu
+bagi
 poker
 yang
 nya
-namun
-.
+1
+seperti
 d
 saya
-namun
+adalah
 .
 bisa
-mereka
-adalah
-9
-bermain
+satu
+(
+sebagai
+u
 dapat
 5
-telah
+mungkin
 bisa
 :
 ,
 .
 dalam
 memiliki
-)
+secara
 tidak
-0
+k
 jadi
-dan
+besar
 yang
-adalah
+nya
 banyak
 dengan
-ada
+banyak
 kan
-oleh
-di
-
-maka
+/
+untuk
+sendiri
+bermain
 "
-9
+:
 0
-a
+ke
 )
 tidak
 anda
 besar
 bahwa
-poker
+besar
 1
 kita
 adalah
@@ -1630,120 +1630,120 @@ adalah
 5
 dan
 ini
-dan
+tidak
 adalah
 ada
-beberapa
+permainan
 tersebut
 
 bermain
-harus
+t
 satu
 3
 ,
-judi
+menggunakan
+lain
 banyak
-ini
 pada
 ,
 saat
 ,
-karena
+)
 e
-poker
+besar
 akan
--
+maka
 1
 2
 -
-1
-dapat
-judi
+telah
+online
+/
 atau
 satu
-dalam
-namun
+dengan
+
 bermain
-para
-dari
+kamu
+bisa
 yang
-saat
-dapat
+secara
+karena
 ada
-dapat
+yang
 yang
 .
-online
+(
 )
 karena
-untuk
-yang
+0
+e
 juga
-t
-telah
+kami
+lain
 adalah
-,
+tahun
 tidak
 lebih
-nya
-di
+judi
+saja
 6
-nya
-tidak
+?
+7
 a
 permainan
 
 /
 atau
 adalah
-itu
-4
+5
+orang
 n
 ada
-kamu
+2
 untuk
 dan
 poker
 u
-banyak
+sudah
 
 dalam
 yang
 
 untuk
 5
-saat
+:
 lebih
 pada
-karena
+8
 akan
 itu
-tahun
+dalam
 atau
 :
 satu
 s
 cara
-namun
-pada
+waktu
+indonesia
 dan
-tersebut
+7
 itu
-.
+pemain
 dan
 1
 online
-maka
+semua
 
 ini
-hanya
-uang
+saja
+tidak
 e
--
+ke
 nya
-lebih
-poker
-hal
+ke
+juga
+kan
 game
 karena
 yang
@@ -1756,67 +1756,67 @@ ada
 seperti
 saya
 0
-bisa
+sendiri
 tidak
 ada
 atau
 yang
-hanya
-d
+online
+cara
 pada
-situs
+bahwa
 d
 k
-judi
+situs
 menjadi
 banyak
 bisa
 pada
-atau
+jika
 (
 bisa
-mereka
+bermain
 d
-8
+bahwa
 saat
 ke
 ada
 untuk
 dapat
-dengan
+
 ini
 untuk
-0
+bahwa
 yang
 saja
 bisa
-tidak
-pemain
-online
+bermain
+waktu
+a
 s
-u
-sebagai
-kami
+juga
+situs
+d
 karena
-bahwa
-(
+dapat
+
 besar
-untuk
+nya
 ke
-membuat
+saja
 atau
 -
-dengan
+sangat
 atau
-"
-mereka
-sudah
-0
+indonesia
+online
+1
+an
 dan
 5
 bisnis
-4
-s
+8
+
 dengan
 atau
 besar
@@ -1824,49 +1824,49 @@ beberapa
 saat
 "
 1
-bisa
+–
 tersebut
-jika
+e
 "
 
 mereka
-5
+situs
 dan
 maka
-3
-9
+maka
+saya
 nya
 uang
 0
 anda
-4
-banyak
+dari
+apa
 3
-dengan
+o
 
 nya
 salah
 membuat
 )
-
+bisnis
 pada
-saat
+t
 secara
 bagi
 bagi
 untuk
-4
+kamu
 juga
 
 .
 .
 sudah
-orang
+a
 dengan
 mereka
 1
 tidak
-tahun
+anda
 ke
 bisa
 juga
@@ -1876,49 +1876,49 @@ dan
 tidak
 sebagai
 ini
-anda
-s
-cara
-online
+bisnis
+membuat
 cara
-satu
+banyak
+salah
+e
 dan
 jika
-hal
+tidak
 i
 2
 ke
 memiliki
-3
-jika
-saat
-bahwa
-online
+orang
+8
+
+saja
+7
 sudah
 cara
 dapat
 lebih
-besar
+dari
 adalah
 anda
 dengan
-
-mereka
+cara
+sangat
 )
-seperti
+9
 atau
-6
+di
 2
-:
+(
 sangat
-maka
+waktu
 ini
 dan
-
+kami
 dan
 harus
 di
-para
+poker
 sebagai
 ada
 i
@@ -1927,113 +1927,113 @@ harus
 harus
 seperti
 k
-0
+saat
 bermain
 di
 bisa
-adalah
+dapat
 atau
 dalam
 dapat
-seperti
-seperti
-i
+beberapa
+menggunakan
+4
 -
 :
 tersebut
 lain
-,
-jadi
+oleh
+saja
 kami
-s
-bahwa
-karena
+dalam
+setelah
+3
 adalah
-karena
-dengan
+d
+untuk
 mungkin
 yang
-
+anda
 .
-harus
+tersebut
 besar
-membuat
-dalam
+telah
+t
 dalam
 ke
-k
+bermain
 dengan
 
-satu
+kamu
 
-poker
+kami
 ,
 untuk
 beberapa
 lain
 itu
-dan
+anda
 9
-i
+menggunakan
 kami
-mereka
+-
 di
 sebagai
-mendapatkan
-.
+7
+permainan
 menjadi
 bahwa
-pada
+kamu
 kita
 p
 untuk
 :
 baik
-lebih
+hal
 salah
-satu
-3
+/
+tidak
 (
 memiliki
 9
 lebih
 judi
-9
-5
+sebagai
+baik
 atau
 saat
 dalam
-"
+game
 .
-i
+juga
 ini
 satu
-memiliki
-lebih
+
 9
+dan
 
 3
 lebih
 beberapa
 kamu
 saat
-kita
+)
 baik
-menggunakan
+a
 mereka
 tersebut
 "
 6
 ,
-7
+terbaik
 ke
 3
 dan
--
-sebagai
+baik
+beberapa
 anda
 seperti
-2
+situs
 
 maka
 .
@@ -2041,67 +2041,67 @@ maka
 kamu
 
 7
-/
+beberapa
 bermain
 kan
-anda
+setelah
 juga
-pada
-2
+hanya
+situs
 )
 dalam
-dalam
-hanya
 s
+hanya
+
 ini
 bisa
 e
-dapat
+kamu
 0
-bahwa
+lain
 membuat
 baik
 ke
-6
+bisa
 dan
-7
+t
 akan
-poker
-ke
+saja
+mereka
 bisa
 3
 .
-adalah
+ada
 5
 d
 -
 d
-cara
+
 dan
-orang
+harus
 akan
-bisnis
-ingin
+i
+1
 .
 sudah
 memiliki
-
-dari
+permainan
+para
 melakukan
-ke
+kan
 saya
-secara
--
-anda
-sangat
+5
+?
+maka
+seperti
 0
 untuk
 an
 bahwa
-9
+sangat
 lebih
 anda
-baik
+9
 ke
 tidak
 :
@@ -2111,51 +2111,51 @@ dari
 
 atau
 
-anda
+saya
 ke
-besar
+salah
 satu
-
+yang
 5
-secara
-,
+8
+memiliki
 itu
 7
-bisnis
+mendapatkan
 
--
+membuat
 
-waktu
-banyak
+tentang
+besar
 2
 dan
 satu
 cara
--
+yang
 baik
 akan
-kamu
-ke
+seperti
+?
 (
-para
+di
 hal
 juga
 
 0
 ,
 anda
-an
-sebagai
+cara
+6
 -
 
 s
 harus
-bisa
-saya
-sudah
-satu
-tidak
-situs
+akan
+bahwa
+hanya
+.
+dalam
+an
 
 
 menjadi
@@ -2164,46 +2164,46 @@ menjadi
 menjadi
 t
 orang
-0
+yang
 anda
 cara
 dari
 8
 4
 an
-sebagai
-7
+kami
+setiap
 dengan
 :
 saya
 s
 -
 adalah
-beberapa
-memiliki
+satu
+jika
 1
 saya
 sudah
 memiliki
-ini
-t
+bisnis
+indonesia
 hal
 kami
 untuk
-lain
-d
+jika
+kan
+untuk
+sebagai
 untuk
-kami
-memiliki
 anda
 ini
 para
-u
+hal
 juga
 kita
-kan
+telah
 
-menggunakan
+akan
 sebagai
 hal
 seperti
@@ -2215,55 +2215,55 @@ hal
 dan
 untuk
 pada
-permainan
+dan
 anda
 
 anda
-bisa
+s
 2
 ,
-permainan
+perlu
 
 untuk
-
+,
 "
 tersebut
-baik
+6
 e
-menjadi
+saja
 -
 dari
 i
-3
+saya
 telah
-mereka
+namun
 dengan
-atau
+apa
 .
 dan
 dalam
 karena
 
-dari
+melakukan
 maka
 melakukan
-permainan
+para
 dalam
 s
 oleh
 .
 pada
 lebih
-orang
+hal
 maka
-ada
+dapat
 
-indonesia
-bahwa
-yang
-1
+4
+u
+a
+tidak
 9
-telah
+i
 banyak
 online
 4
@@ -2278,21 +2278,21 @@ dari
 situs
 ,
 dengan
-cara
+?
 dapat
 dan
 dapat
-harus
+8
 7
 ,
 uang
-besar
+hanya
 oleh
 sudah
-bahwa
+beberapa
 anda
-?
-memiliki
+untuk
+orang
 tidak
 an
 akan
@@ -2300,18 +2300,18 @@ akan
 i
 di
 ,
-ini
+bisa
 yang
 "
-memiliki
-t
+:
+an
 (
 dapat
-i
+secara
 sangat
-oleh
+2
 saya
-uang
+permainan
 menjadi
 dengan
 untuk
@@ -2319,72 +2319,72 @@ lebih
 beberapa
 anda
 i
-ada
+
 indonesia
-sangat
+harus
 
 orang
 mereka
-an
+kami
 
-hanya
+lebih
 -
 lebih
-9
+bisa
 pada
 an
 dalam
-)
-1
-kami
+semua
+beberapa
+?
 judi
 harus
 seperti
-8
+?
 nya
-pemain
+kan
 ini
-sangat
+1
 yang
-u
-dan
+5
+saya
 slot
+judi
 8
-)
-bahwa
-–
+permainan
+harga
 
-jika
+dapat
 3
 ke
 
 bermain
-dari
+cara
 game
 akan
 
-dengan
+
 itu
 
-d
-secara
-harus
+1
+karena
+
 dengan
 saat
 t
+seperti
+membuat
 saya
-n
-saya
-online
+dapat
 2
-dan
+uang
 yang
 s
 
-ini
-4
+lebih
+
 itu
-5
+satu
 cara
 yang
 
@@ -2392,50 +2392,50 @@ yang
 di
 mendapatkan
 nya
-hal
+kami
 nya
-ke
+atau
 4
-dalam
+harus
 yang
-?
+situs
 oleh
 akan
-e
+beberapa
 secara
 di
-i
+a
 menjadi
 2
 menjadi
 2
-poker
+7
 i
 beberapa
-d
-cara
 besar
+bahwa
+dan
 saja
-hanya
-an
+sangat
+lain
 nya
 dari
 akan
 ,
-secara
-secara
+memiliki
+menggunakan
 adalah
 an
 secara
-membuat
+judi
 di
 untuk
 
-saja
+kami
 itu
-
-membuat
-semua
+bisa
+oleh
+bisnis
 atau
 itu
 
@@ -2444,15 +2444,15 @@ dengan
 8
 cara
 hal
-pada
+ketika
+saat
 saat
-4
 0
+tidak
 "
-"
-perlu
+sudah
 adalah
-sebagai
+ada
 dan
 di
 secara
@@ -2461,69 +2461,69 @@ bisa
 menggunakan
 ,
 yang
-"
+saat
 dari
 sangat
-akan
-(
+kami
+dan
 anda
-
-adalah
-sudah
-situs
+rumah
+ketika
+kami
+e
 akan
 5
 anda
-permainan
+hari
 t
 besar
-oleh
-dan
-dengan
-8
-semua
+e
+satu
+i
+salah
+rumah
 t
 kamu
 telah
 anda
 ini
 jika
-tahun
-game
-untuk
-hal
+bermain
+melakukan
+saat
+akan
 adalah
 akan
-kamu
-d
+kami
+dapat
 k
-7
-tidak
+8
+membuat
 atau
 kan
 (
 di
-sebagai
-lain
+menggunakan
+(
 dapat
 8
 k
-online
+jika
 bahwa
-7
+lainnya
 bisa
 cara
-bisa
+tentang
 mereka
 yang
 s
 yang
-kamu
+sudah
 
 dapat
 
 dalam
-bahwa
+untuk
 )
 bahwa
 akan
@@ -2531,46 +2531,46 @@ mereka
 lain
 "
 tidak
-dapat
+dan
 di
 dari
 kita
-dengan
+satu
 akan
 0
 bisa
 
-,
-kamu
-i
+o
+di
+slot
 itu
 kami
 ke
-
+?
 harus
 juga
 uang
 secara
-nya
+1
 anda
-hanya
+lain
 besar
 9
 0
-saat
+seperti
 4
-para
+kamu
 hal
-u
-satu
-situs
-kami
+lain
+e
+e
+karena
 di
 kami
 situs
 pada
 i
-yang
+?
 2
 0
 ,
@@ -2586,23 +2586,23 @@ lebih
 karena
 akan
 5
-maka
+game
 sangat
 lebih
 0
 bermain
-memiliki
+salah
 saat
 perlu
 salah
 0
-dapat
+online
 1
 tersebut
 satu
 itu
-hanya
-beberapa
+situs
+?
 anda
 kan
 tidak
@@ -2610,63 +2610,63 @@ tidak
 dan
 saat
 .
-ini
+4
 ?
 situs
 ada
-cara
-nya
-
+kami
+u
+hal
 )
 beberapa
 karena
-dengan
+nya
 
 bisa
 online
 namun
 ,
-/
+dalam
 
 indonesia
-saat
-p
-kami
 cara
-1
-poker
+apa
+kami
+e
+m
+hal
 lebih
-online
+s
 dapat
 permainan
-kan
+memiliki
 juga
 juga
-di
+poker
 0
 .
-online
-
+orang
 /
-kami
+orang
+dapat
 cara
-menggunakan
+anda
 5
-harus
+akan
 
 
 situs
 juga
 2
 bisa
-menjadi
+besar
 
 indonesia
 saat
 atau
-dari
-seperti
-
+sebagai
+bisa
+kami
 
 tersebut
 di
@@ -2675,11 +2675,11 @@ anda
 situs
 2
 s
-kamu
+besar
 
 hal
 maka
-ingin
+telah
 bisa
 sudah
 bahwa
@@ -2690,7 +2690,7 @@ akan
 dari
 bisa
 dalam
-hanya
+menggunakan
 indonesia
 yang
 4
@@ -2700,28 +2700,28 @@ seperti
 menggunakan
 mendapatkan
 itu
-dengan
+mereka
 tidak
 
 sebagai
 akan
-)
+membuat
 -
-game
 
+anda
 dengan
-mendapatkan
+m
 "
 situs
-namun
+kan
 :
 permainan
 banyak
 ,
 s
-dalam
+pada
 s
-/
+0
 karena
 ke
 pada
@@ -2730,30 +2730,30 @@ slot
 2
 baik
 2
-ke
+t
 adalah
 -
-sebagai
+harus
 waktu
 kami
 sebagai
-8
+hal
 
 kita
-tahun
+aplikasi
 s
 yang
-saja
-yang
-5
-bisa
+indonesia
+di
+di
+e
 satu
-4
+banyak
 bisa
-u
-an
+trading
+,
 t
-tersebut
+saat
 4
 )
 dengan
@@ -2762,18 +2762,18 @@ seperti
 
 e
 baik
-ke
-menjadi
+permainan
+
 banyak
 lain
-secara
-lebih
+e
+online
 0
-akan
+beberapa
 mereka
 hanya
-pemain
-orang
+jadi
+"
 itu
 )
 untuk
@@ -2783,73 +2783,73 @@ hal
 a
 7
 slot
-baik
+9
 hal
 pada
-tersebut
-t
-namun
-dengan
+judi
+s
+untuk
+salah
 u
 
 bisa
 3
-sangat
+a
 3
 saya
 -
 ,
-juga
+waktu
 dari
 ,
-permainan
-2
+e
+1
 untuk
 s
 kan
 di
-lebih
+
 anda
 sangat
 s
 lebih
-kan
+membuat
 
-mereka
+besar
 dari
 ,
 adalah
 0
 situs
-anda
+ada
 .
 
-ini
-ingin
+,
+uang
 karena
 nya
 jika
 i
 dan
 bahwa
-banyak
-harus
-baik
-sebagai
+3
+anda
+besar
+salah
 1
 menjadi
 .
 dengan
-permainan
-dalam
+sudah
+-
 seperti
 beberapa
-ada
-yang
-satu
+"
+o
+dan
 i
 tidak
-kami
+kan
 karena
 saya
 
@@ -2857,47 +2857,47 @@ besar
 0
 e
 di
-oleh
+bahwa
 tidak
 cara
-0
+poker
 kami
 banyak
-juga
+menjadi
 adalah
-t
+sebagai
 judi
 3
 untuk
-k
+membuat
 juga
 
 (
 saya
 bisa
-satu
-?
+t
+6
 juga
 di
-orang
+waktu
 tidak
-k
-:
+situs
+sudah
 harus
 tidak
 tidak
 1
-6
+salah
 1
 4
-3
+an
 orang
 7
 anda
-tahun
-apa
+t
+dengan
 -
-kamu
+secara
 ,
 kami
 yang
@@ -2905,30 +2905,30 @@ ini
 5
 2
 
-saja
+1
 nya
-8
-/
-i
+?
 beberapa
-
+juga
+hanya
+menggunakan
 besar
 menjadi
-yang
-0
-saja
-kita
-lebih
+yang
+bisa
+d
+lain
+ke
 online
-8
+sangat
 saja
 adalah
-?
+d
 kamu
 sudah
 satu
 atau
-hal
+bahwa
 tidak
 3
 memiliki
@@ -2938,42 +2938,42 @@ ke
 jika
 lebih
 karena
-lebih
+di
 9
--
+dengan
 jadi
 online
 
-0
-kan
+a
+
 satu
 3
 ,
 yang
-jika
-baik
-/
+juga
+banyak
+taruhan
 menggunakan
 mereka
 i
 saat
-.
+tersebut
 indonesia
 kami
-pada
+,
 pada
 untuk
-o
-di
-?
+seperti
+sangat
+secara
 sudah
 situs
 tersebut
 ,
 dapat
-kamu
+secara
 dalam
-2
+nya
 d
 i
 )
@@ -2981,76 +2981,76 @@ i
 9
 namun
 dapat
-lebih
+(
 permainan
 poker
-di
-m
+kami
+ingin
 untuk
 3
 seperti
-baik
-
+ingin
+di
 
-saat
+t
 slot
-maka
+masih
 
 untuk
 
-
-ke
+.
+6
 satu
 hal
-akan
-pada
-.
-n
+semua
+2
+9
+maka
 )
 )
 lebih
 beberapa
 "
 3
-i
+"
 menjadi
 dari
-pada
-beberapa
+permainan
+
 satu
-online
+d
 ?
-s
-sebagai
+m
+dapat
 tidak
 saat
 orang
 5
-bisa
 untuk
-an
+(
+oleh
 tidak
-:
-mereka
+memiliki
+3
 oleh
 dengan
 situs
 
-adalah
+ingin
 a
 saat
 ,
 ini
 /
-cara
+dunia
 dari
-orang
-p
+harus
+baru
 pada
 bisa
 ,
 an
-1
+8
 akan
 di
 untuk
@@ -3058,23 +3058,23 @@ di
 e
 judi
 dapat
-banyak
-banyak
+u
+harus
 .
 menjadi
 akan
 tentang
 t
 menjadi
-online
+banyak
 oleh
 satu
 dalam
 2
 anda
-tahun
+perlu
 anda
-indonesia
+6
 adalah
 /
 sudah
@@ -3082,56 +3082,56 @@ sudah
 
 (
 :
-dalam
-poker
+dari
+harga
 adalah
 cara
 kamu
 ada
 judi
-itu
+oleh
 ada
 atau
-besar
+"
 kita
-secara
-
+di
+bermain
 kamu
-secara
+6
 di
-uang
+kami
 menjadi
 0
 judi
-untuk
-
+.
+bisa
 itu
 -
-judi
+anda
 nya
-cara
+sudah
 
-)
+satu
 ke
-dapat
+
 karena
 0
 baik
 
 besar
-bisnis
+baru
 yang
-i
-,
+sebagai
+bagi
 ?
--
+an
 untuk
 tidak
-adalah
-beberapa
+itu
+kami
 sebagai
 :
-nya
+situs
 )
 s
 lebih
@@ -3141,21 +3141,21 @@ banyak
 /
 itu
 .
-slot
+kan
 online
-s
+a
 ini
 tersebut
-menggunakan
+hanya
 tidak
 ,
 memiliki
 s
 )
 
-secara
-p
-kami
+poker
+anda
+,
 sebagai
 
 tidak
@@ -3163,52 +3163,52 @@ banyak
 .
 6
 adalah
-permainan
+bisa
 mereka
 jika
 online
 sudah
 
 menjadi
-di
+-
 anda
 juga
 sebagai
-bahwa
-baik
-5
+memiliki
+taruhan
+an
 u
-tersebut
+dalam
 menjadi
 saya
 2
-melakukan
+kan
+sendiri
 1
-(
-dan
+ini
 an
-membuat
+banyak
 pada
 memiliki
 adalah
 untuk
 itu
 bisa
-seperti
+harga
 
 untuk
 3
 cara
-anda
+-
 hal
 d
+7
 a
--
 menggunakan
 4
 dan
-2
-ingin
+an
+melakukan
 .
 nya
 k
@@ -3218,59 +3218,59 @@ untuk
 akan
 dengan
 u
-
+hanya
 (
-permainan
+baik
 pada
 karena
-
-hanya
-harga
+o
+mudah
+secara
 tidak
 sangat
 bahwa
 karena
 di
 game
-d
-satu
-situs
+6
+/
+ada
 ,
 :
-harga
-online
+bermain
+3
 seperti
 nya
 .
 5
 online
 online
-itu
+kami
 dan
 i
 lain
 
 )
-online
-tentang
+membuat
+tahun
 akan
-uang
-kan
+
+memiliki
 kamu
-4
+bagi
 hal
-banyak
+(
 e
 4
-tidak
+t
 saat
 
-dari
+maka
 0
 ,
 nya
-dan
-besar
+tahun
+tahun
 secara
 1
 sudah
@@ -3283,74 +3283,74 @@ saja
 secara
 pada
 di
-ke
+karena
 9
 satu
-melakukan
+kan
 atau
-,
+dengan
 e
 banyak
-mereka
+judi
 orang
 tidak
-judi
-8
-
+3
+kan
+juga
 dapat
-
+kami
 yang
 dengan
-semua
-game
-an
+pemain
+uang
+jadi
 namun
-itu
+hal
 .
 ,
-bisa
+telah
 hanya
-yang
-4
-ke
+yang
+tidak
+lebih
 anda
 ,
 atau
-lebih
-menjadi
+maka
+banyak
 dengan
 dan
-7
+bermain
 satu
 besar
 5
-namun
+melakukan
 3
-bisa
+d
 7
-,
+salah
 anda
 ini
-
+permainan
 dari
 e
-lain
-dengan
+
+dapat
 permainan
 adalah
-itu
-dapat
+sangat
+bisa
 )
 secara
 dan
-bahwa
+sudah
 anda
 adalah
 karena
 ?
 "
 2
-u
+membuat
 5
 baik
 0
@@ -3364,91 +3364,91 @@ lebih
 saat
 pada
 dalam
-"
+2
 -
-sudah
-indonesia
-judi
+ke
+apa
+hal
 oleh
 juga
 lebih
-5
+beberapa
 nya
 dengan
 harus
 4
 mereka
 yang
-karena
-pada
+juga
+s
 3
 0
 saya
 .
 pada
 dari
-anda
-an
+telah
+hanya
 )
 di
-0
-di
+mendapatkan
+-
 .
 e
 besar
 di
 dan
 bahwa
-/
+seperti
 di
-t
+membuat
 anda
-o
+namun
 saya
 di
 akan
 tidak
 
-hal
-kita
+9
+untuk
 7
 itu
 lebih
 baik
 secara
 bahwa
-indonesia
-kami
+secara
+-
 5
 membuat
 t
 pada
 sangat
-juga
+lebih
 (
 seperti
 akan
-:
+dapat
 an
 
-hanya
+judi
 
 cara
 dan
 karena
-
-semua
+seperti
+ada
 hanya
 baik
 dari
-0
+dalam
 itu
 dan
 yang
 tidak
-saat
 cara
-dengan
+k
+untuk
 anda
 anda
 yang
@@ -3457,56 +3457,56 @@ untuk
 nya
 -
 dapat
-baru
+maka
 karena
-dari
-dengan
+menjadi
+ingin
 1
 untuk
 permainan
 ,
 anda
-ke
+9
 semua
 )
-saat
+menjadi
 pada
 
 situs
 sudah
 atau
 ini
-ada
-,
+e
+anda
 beberapa
-para
+-
 itu
 k
-5
+setiap
 kami
 5
 ada
-bagi
+dan
 dan
 dengan
-7
-dengan
+permainan
+
 situs
 atau
 saat
 tidak
 .
-kita
-tersebut
+:
+menjadi
 ,
 dalam
 6
 anda
-1
+kan
 ini
 juga
 .
-a
+oleh
 banyak
 2
 orang
@@ -3514,37 +3514,37 @@ ke
 
 jika
 an
-dapat
+kita
 harus
 -
 kita
 mereka
 dalam
-oleh
+hal
 di
-permainan
+0
 .
 an
 mereka
 di
 hal
-bahwa
-lain
-maka
+poker
+melakukan
+menjadi
 
 adalah
 bisa
 satu
-tersebut
+maka
 saat
-1
+dan
 lebih
-ke
-)
-ke
+an
+saat
+banyak
 atau
-mendapatkan
--
+sebagai
+nya
 dapat
 lain
 1
@@ -3553,26 +3553,26 @@ dan
 itu
 i
 jika
-namun
-permainan
+sudah
+4
 ,
 ini
-karena
+kita
 di
 pada
 cara
 dan
-indonesia
+a
 hal
-online
-banyak
+dengan
+adalah
 pada
-saya
+0
 sangat
 online
 .
 jika
-an
+kami
 .
 dari
 a
@@ -3584,15 +3584,15 @@ juga
 pada
 1
 (
-?
+akan
 (
 
 1
 juga
-ke
+(
 satu
 situs
-online
+mereka
 ke
 yang
 -
@@ -3600,21 +3600,21 @@ karena
 sudah
 ,
 juga
-0
-/
-saja
+p
+n
+telah
 pada
-satu
+judi
 2
-3
+banyak
 
-beberapa
+dapat
 juga
-?
+beberapa
 di
-3
-0
-lain
+judi
+5
+membuat
 .
 /
 yang
@@ -3622,73 +3622,73 @@ yang
 jika
 memiliki
 an
-ke
-
+u
+untuk
 bahwa
 banyak
 baik
-menggunakan
+maka
 saja
-oleh
-an
+s
+?
 5
-para
+semua
 tidak
 1
 )
 yang
 dengan
 pada
-:
+dalam
 adalah
 sebagai
 memiliki
 hal
 untuk
 maka
-sebagai
+lain
 
 ke
 7
 ,
 (
-kan
+an
 pada
 3
 
 t
 nya
 slot
-0
-jika
+harga
+anda
 ?
-e
-pada
+
+atau
 banyak
-.
-oleh
-tersebut
+untuk
+saat
+bahwa
 ke
 membuat
 nya
 harus
-e
+kami
 karena
-anda
+atau
 sudah
-salah
+d
 
 di
 online
-kan
+t
 1
-7
+k
 salah
 untuk
 nya
 akan
 online
-ada
+lain
 memiliki
 maka
 sebagai
@@ -3702,7 +3702,7 @@ sudah
 mereka
 an
 
-ke
+semua
 orang
 "
 untuk
@@ -3714,49 +3714,49 @@ anda
 baru
 "
 sebagai
-4
+saya
 9
 di
 tersebut
 
 0
-mendapatkan
+waktu
 dengan
 ?
-dan
+-
 dapat
 itu
 jika
-perlu
+dalam
 1
 i
 dengan
 i
-a
+semua
 -
-seperti
-situs
+lain
+bisnis
 dengan
-kamu
+situs
 dengan
 2
 i
-"
+sangat
 untuk
 hal
 orang
-anda
+besar
 kita
-3
-tidak
+online
+dari
 anda
 dengan
 dapat
 s
-sebagai
+bahwa
 
-hal
+u
 lebih
-kami
+slot
 3
-poker
+p

predict_results.json

@@ -1,12 +1,12 @@
 {
     "predict_gen_len": 1.0,
-    "predict_loss": 0.5812939405441284,
-    "predict_rouge1": 0.4476,
+    "predict_loss": 0.5208343267440796,
+    "predict_rouge1": 0.4212,
     "predict_rouge2": 0.0,
-    "predict_rougeL": 0.4475,
-    "predict_rougeLsum": 0.4461,
-    "predict_runtime": 556.1121,
+    "predict_rougeL": 0.4226,
+    "predict_rougeLsum": 0.4201,
+    "predict_runtime": 3173.3184,
     "predict_samples": 3762,
-    "predict_samples_per_second": 6.765,
-    "predict_steps_per_second": 0.212
+    "predict_samples_per_second": 1.186,
+    "predict_steps_per_second": 0.037
 }

train_results.json

@@ -1,9 +1,9 @@
 {
     "epoch": 5.0,
-    "total_flos": 7.576040408207155e+16,
-    "train_loss": 0.8314367408773836,
-    "train_runtime": 5188.459,
+    "total_flos": 4.90238608932864e+16,
+    "train_loss": 0.6193654355446854,
+    "train_runtime": 3915.3347,
     "train_samples": 14262,
-    "train_samples_per_second": 13.744,
-    "train_steps_per_second": 1.718
+    "train_samples_per_second": 18.213,
+    "train_steps_per_second": 1.139
 }

trainer_state.json

@@ -3,128 +3,128 @@
   "best_model_checkpoint": null,
   "epoch": 5.0,
   "eval_steps": 500,
-  "global_step": 8915,
+  "global_step": 4460,
   "is_hyper_param_search": false,
   "is_local_process_zero": true,
   "is_world_process_zero": true,
   "log_history": [
     {
       "epoch": 1.0,
-      "grad_norm": 1.6311372518539429,
-      "learning_rate": 4e-05,
-      "loss": 1.2271,
-      "step": 1783
+      "grad_norm": 0.7220906615257263,
+      "learning_rate": 0.0008,
+      "loss": 0.8166,
+      "step": 892
     },
     {
       "epoch": 1.0,
       "eval_gen_len": 1.0,
-      "eval_loss": 0.6274559497833252,
-      "eval_rouge1": 0.491,
+      "eval_loss": 0.541189432144165,
+      "eval_rouge1": 0.6958,
       "eval_rouge2": 0.0,
-      "eval_rougeL": 0.4864,
-      "eval_rougeLsum": 0.4859,
-      "eval_runtime": 113.872,
-      "eval_samples_per_second": 6.586,
-      "eval_steps_per_second": 0.211,
-      "step": 1783
+      "eval_rougeL": 0.6933,
+      "eval_rougeLsum": 0.6944,
+      "eval_runtime": 38.2682,
+      "eval_samples_per_second": 19.599,
+      "eval_steps_per_second": 0.627,
+      "step": 892
     },
     {
       "epoch": 2.0,
-      "grad_norm": 1.6894285678863525,
-      "learning_rate": 3e-05,
-      "loss": 0.7893,
-      "step": 3566
+      "grad_norm": 0.7783016562461853,
+      "learning_rate": 0.0006,
+      "loss": 0.6181,
+      "step": 1784
     },
     {
       "epoch": 2.0,
       "eval_gen_len": 1.0,
-      "eval_loss": 0.5954805612564087,
-      "eval_rouge1": 0.4382,
+      "eval_loss": 0.5291976928710938,
+      "eval_rouge1": 0.6767,
       "eval_rouge2": 0.0,
-      "eval_rougeL": 0.4358,
-      "eval_rougeLsum": 0.4345,
-      "eval_runtime": 114.0151,
-      "eval_samples_per_second": 6.578,
-      "eval_steps_per_second": 0.21,
-      "step": 3566
+      "eval_rougeL": 0.6749,
+      "eval_rougeLsum": 0.6733,
+      "eval_runtime": 38.0243,
+      "eval_samples_per_second": 19.724,
+      "eval_steps_per_second": 0.631,
+      "step": 1784
     },
     {
       "epoch": 3.0,
-      "grad_norm": 2.1006124019622803,
-      "learning_rate": 2e-05,
-      "loss": 0.7347,
-      "step": 5349
+      "grad_norm": 0.717491865158081,
+      "learning_rate": 0.0004,
+      "loss": 0.5768,
+      "step": 2676
     },
     {
       "epoch": 3.0,
       "eval_gen_len": 1.0,
-      "eval_loss": 0.5738495588302612,
-      "eval_rouge1": 0.4461,
+      "eval_loss": 0.4997425377368927,
+      "eval_rouge1": 0.6835,
       "eval_rouge2": 0.0,
-      "eval_rougeL": 0.4432,
-      "eval_rougeLsum": 0.4417,
-      "eval_runtime": 113.8613,
-      "eval_samples_per_second": 6.587,
-      "eval_steps_per_second": 0.211,
-      "step": 5349
+      "eval_rougeL": 0.6819,
+      "eval_rougeLsum": 0.6808,
+      "eval_runtime": 37.8683,
+      "eval_samples_per_second": 19.805,
+      "eval_steps_per_second": 0.634,
+      "step": 2676
     },
     {
       "epoch": 4.0,
-      "grad_norm": 1.6685503721237183,
-      "learning_rate": 1e-05,
-      "loss": 0.7084,
-      "step": 7132
+      "grad_norm": 0.5613729953765869,
+      "learning_rate": 0.0002,
+      "loss": 0.5516,
+      "step": 3568
     },
     {
       "epoch": 4.0,
       "eval_gen_len": 1.0,
-      "eval_loss": 0.5617851614952087,
-      "eval_rouge1": 0.4416,
+      "eval_loss": 0.5060973763465881,
+      "eval_rouge1": 0.6866,
       "eval_rouge2": 0.0,
-      "eval_rougeL": 0.4409,
-      "eval_rougeLsum": 0.4389,
-      "eval_runtime": 113.0623,
-      "eval_samples_per_second": 6.634,
-      "eval_steps_per_second": 0.212,
-      "step": 7132
+      "eval_rougeL": 0.6872,
+      "eval_rougeLsum": 0.6829,
+      "eval_runtime": 37.6793,
+      "eval_samples_per_second": 19.905,
+      "eval_steps_per_second": 0.637,
+      "step": 3568
     },
     {
       "epoch": 5.0,
-      "grad_norm": 1.329140543937683,
+      "grad_norm": 0.717795193195343,
       "learning_rate": 0.0,
-      "loss": 0.6976,
-      "step": 8915
+      "loss": 0.5337,
+      "step": 4460
     },
     {
       "epoch": 5.0,
       "eval_gen_len": 1.0,
-      "eval_loss": 0.5655565857887268,
-      "eval_rouge1": 0.4188,
+      "eval_loss": 0.49971678853034973,
+      "eval_rouge1": 0.7062,
       "eval_rouge2": 0.0,
-      "eval_rougeL": 0.4161,
-      "eval_rougeLsum": 0.4157,
-      "eval_runtime": 113.3074,
-      "eval_samples_per_second": 6.619,
-      "eval_steps_per_second": 0.212,
-      "step": 8915
+      "eval_rougeL": 0.7054,
+      "eval_rougeLsum": 0.7026,
+      "eval_runtime": 37.7942,
+      "eval_samples_per_second": 19.844,
+      "eval_steps_per_second": 0.635,
+      "step": 4460
     },
     {
       "epoch": 5.0,
-      "step": 8915,
-      "total_flos": 7.576040408207155e+16,
-      "train_loss": 0.8314367408773836,
-      "train_runtime": 5188.459,
-      "train_samples_per_second": 13.744,
-      "train_steps_per_second": 1.718
+      "step": 4460,
+      "total_flos": 4.90238608932864e+16,
+      "train_loss": 0.6193654355446854,
+      "train_runtime": 3915.3347,
+      "train_samples_per_second": 18.213,
+      "train_steps_per_second": 1.139
     }
   ],
   "logging_steps": 500,
-  "max_steps": 8915,
+  "max_steps": 4460,
   "num_input_tokens_seen": 0,
   "num_train_epochs": 5,
   "save_steps": 500,
-  "total_flos": 7.576040408207155e+16,
-  "train_batch_size": 8,
+  "total_flos": 4.90238608932864e+16,
+  "train_batch_size": 16,
   "trial_name": null,
   "trial_params": null
 }