sebaxakerhtc commited on
Commit
36cd638
·
verified ·
1 Parent(s): 6c6b5c4

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +6 -2
README.md CHANGED
@@ -16,9 +16,13 @@ datasets:
16
  - burgasdotpro/wikipedia
17
  ---
18
 
19
- Тестова модела базирана на най-новата MS Phi-4
 
 
 
 
20
 
21
- **bgGPT-Phi-4-CPT-GGUF.Q8_0.gguf е с много добри резултати. Continued Pretraining. Wiki само 1% тъй като моята RTX 3090 не се справя с повече за Phi-4.**
22
 
23
  Тази Phi-4 модела тренирана 2 пъти по-бързо с помоща на [Unsloth](https://github.com/unslothai/unsloth) и TRL библиотеката на Huggingface.
24
 
 
16
  - burgasdotpro/wikipedia
17
  ---
18
 
19
+ Актуализиран 20.01.2025
20
+ - Changed training params
21
+ - Updated dataset
22
+ - Continued pretraining
23
+ - Уикипедиа 5%
24
 
25
+ **bgGPT-Phi-4-CPT-GGUF.Q8_0.gguf е с много добри резултати. Continued Pretraining. Wiki само 1%. Ще го оставя за сравнение.**
26
 
27
  Тази Phi-4 модела тренирана 2 пъти по-бързо с помоща на [Unsloth](https://github.com/unslothai/unsloth) и TRL библиотеката на Huggingface.
28