transformers safetensors text-generation-inference unsloth mistral trl hu dataset:SZTAKI-HLT/HunSum-1 base_model:unsloth/mistral-7b-bnb-4bit license:apache-2.0 endpoints_compatible region:us
---
language:
- hu
license: apache-2.0
tags:
- text-generation-inference
- transformers
- unsloth
- mistral
- trl
base_model: unsloth/mistral-7b-bnb-4bit
datasets:
- SZTAKI-HLT/HunSum-1
---

# Mistral-7b-0.1-hu

- **Developed by:** Bazsalanszky
- **License:** apache-2.0
- **Finetuned from model :** unsloth/mistral-7b-bnb-4bit

Ez a mistral 7b model magyar szövegre lett tanítva 10 000 véletlenszerűen kiválasztott cikken. Így valamivel szebben ír magyarul, mint az alap model. 

## Fontos

Ez a modell NEM lett instrukciókra tanítva, valószínűleg nem fogja azokat követni.

## Példa használat

```python
# Load model directly
from transformers import AutoTokenizer, AutoModel

# Load model directly
from transformers import AutoTokenizer, AutoModelForCausalLM

tokenizer = AutoTokenizer.from_pretrained("mistralai/Mistral-7B-v0.1")
model = AutoModelForCausalLM.from_pretrained("mistralai/Mistral-7B-v0.1")

adapter_name = model.load_adapter("Bazsalanszky/Mistral-7b-0.1-hu")

model.active_adapters = adapter_name

inputs = tokenizer("Magyarország\nFővárosa:", return_tensors = "pt").to("cpu")

from transformers import TextStreamer
text_streamer = TextStreamer(tokenizer)
_ = model.generate(**inputs, streamer = text_streamer, max_new_tokens = 250)
```

## Példa kimenet

Itt van egy példa arra, hogy hogyan viselkedik a modell a tanítás előtt és a tanítás után. 

**Bemenet**: `Magyarország\nFővárosa: ` 

### Tanítás előtt

```
Magyarország
Fővárosa: Budapest
Népesség: 10 000 000 fő
Terület: 93 030 km²

## Magyarország

Hungary is a landlocked country in Central Europe. It is situated in the Carpathian Basin and is bordered by Slovakia to the north, Ukraine to the northeast, Romania to the east and southeast, Serbia to the south, Croatia to the southwest, Slovenia to the west, and Austria to the northwest. The country's capital and largest city is Budapest. Hungary is a member of the European Union, NATO, the OECD, the Visegr
```

### Tanítás után

```
Magyarország
Fővárosa: 1,7 millió lakosú Budapest
Népesség: 10 millió
Nyelv: magyar

A magyarok a honfoglalás után a mai Magyarország területén telepedtek le. A 11. században a Kárpát-medencében létrejött a Magyar Királyság, amely a 16. században a Habsburg Birodalom része lett. A 19. században a magyarok a szabadságharcot követően a Habsburg Birodalom része lett, majd 1918-ban függetlenné vált. A második világháború után a Szovjetunió szövetségese lett, majd 1989-ben a kommun
```

## TODO

- [ ] Több példa
- [ ] Példák újragenerálása több token-el
- [ ] Újrataníáts több cikkel
- [ ] Újratanítás kevésbé formális tartalommal (pl . [Bazsalanszky/reddit_hu](https://huggingface.co/datasets/Bazsalanszky/reddit_hu))
- [ ] Kipróbálni milyen ha ezt tanítjuk tovább egy instrukció követő adatkészleten