
# Hungarian Abstractive Summarization with mT5-base model

For further details, see or [our demo site](https://juniper.nytud.hu/demo/nlp).

- Finetuned on mT5-base model
- Prefix: "summarize: "
- Finetuned on HI corpus (hvg.hu + index.hu)
  - Segments: 559162
  	
## Limitations

- tokenized input text (tokenizer: [HuSpaCy](https://huggingface.co/huspacy))
- max_source_length = 1024
- max_target_length = 256

## Results

| Model | HI | 
| ------------- | ------------- |
| mBART | 35.17/16.46/25.61 |
| mT5 | 33.30/15.97/24.65 |
| PEGASUS | 30.36/13.11/21.57 |

## Usage with pipeline

```python
from transformers import pipeline

summarization = pipeline(task="summarization", model="NYTK/summarization-hi-mt5-base-hungarian")

print(summarization(f"summarize: {input_text}")[0]["summary_text"])
```

## Citation
If you use this model, please cite the following paper:

```
@inproceedings {yang-multi-sum,
    title = {{Többnyelvű modellek és PEGASUS finomhangolása magyar nyelvű absztraktív összefoglalás feladatára}},
    booktitle = {XIX. Magyar Számítógépes Nyelvészeti Konferencia (MSZNY 2023)},
    year = {2023},
    publisher = {Szegedi Tudományegyetem, Informatikai Intézet},
    address = {Szeged, Magyarország},
    author = {Yang, Zijian Győző},
    pages = {381--393}
}
```
{"language": ["hu"], "license": "apache-2.0", "tags": ["summarization"], "metrics": ["rouge"], "widget": [{"text": "summarize: A Tisza-parti v\u00e1ros \u00e1llatkertj\u00e9ben r\u00e9g\u00f3ta tartanak szurik\u00e1t\u00e1kat ( Suricata suricatta ) , de tavaly tavaszig nem siker\u00fclt szapor\u00edtani \u0151ket , annak ellen\u00e9re , hogy t\u00e1gas h\u00e1z \u00e9s kifut\u00f3 \u00e9p\u00fclt sz\u00e1mukra - k\u00f6z\u00f6lte Veprik R\u00f3bert igazgat\u00f3 . 2010-ben alakult ki az \u00faj - h\u00e1rom Amszterdamb\u00f3l sz\u00e1rmaz\u00f3 n\u0151st\u00e9nyb\u0151l \u00e9s egy budapesti fiatal h\u00edmb\u0151l \u00e1ll\u00f3 - csapat , amely szaporodni kezdett . 2011-ben h\u00e1rom , id\u00e9n pedig egy ut\u00f3ddal \u00f6rvendeztett\u00e9k meg a gondoz\u00f3kat \u00e9s az \u00e1llatbar\u00e1tokat . A szurik\u00e1t\u00e1k ut\u00f3dai - tizenegy hetes vemhess\u00e9g ut\u00e1n - okt\u00f3ber \u00e9s m\u00e1rcius k\u00f6z\u00f6tt vakon \u00e9s sz\u0151rtelen\u00fcl j\u00f6nnek a vil\u00e1gra . A kicsinyek h\u00e1romhetesen b\u00fajnak el\u0151 az \u00fcregb\u0151l , \u00e9s nevel\u00e9s\u00fckben mindk\u00e9t sz\u00fcl\u0151 r\u00e9szt vesz . A szurik\u00e1tacsapatokban a csal\u00e1d tagjai nagyon szoros kapcsolatban \u00e1llnak egym\u00e1ssal , viszont nagyon harciasan fell\u00e9pnek az idegenekkel szemben , ak\u00e1r meg is \u00f6lhetik azt az \u00e1llatot , amelyet betolakod\u00f3nak tekintenek . B\u00e1r a D\u00e9l-Afrik\u00e1ban , a Kalah\u00e1ri sivatagban \u0151shonos cibetmacskaf\u00e9le ragadoz\u00f3kat a szegedi \u00e1llatkertben term\u00e9szetes \u00e9l\u0151hely\u00fckh\u00f6z k\u00e9pest kevesebb vesz\u00e9ly fenyegeti , a vadasparki erd\u0151ben ragadoz\u00f3 madarak is \u00e9lnek , amelyek ak\u00e1r zs\u00e1km\u00e1nyk\u00e9nt is tekinthetn\u00e9nek a szurik\u00e1t\u00e1kra . A szegedi csapatn\u00e1l azonban szigor\u00fa \u0151rs\u00e9g van , mindig lesi valaki k\u00e9t l\u00e1bra \u00e1llva a vesz\u00e9lyforr\u00e1sokat . Az \u0151rszemek figyelm\u00e9t m\u00e9g a s\u00e1rk\u00e1nyrep\u00fcl\u0151k is felkeltik , \u00e9s felbukkan\u00e1sakor valamennyi egyed biztos helyre menek\u00fcl . A szurik\u00e1t\u00e1k a Kalah\u00e1ri sivatag boz\u00f3tos , szikl\u00e1s ter\u00fcletein csapatokban \u00e9lnek . A 700 gramm k\u00f6r\u00fcli testt\u00f6meg\u0171 ragadoz\u00f3k rovarokkal , l\u00e1rv\u00e1kkal , skorpi\u00f3kkal t\u00e1pl\u00e1lkoznak , de n\u00e9ha elfogyasztj\u00e1k a kisebb gerinceseket , toj\u00e1sokat \u00e9s n\u00f6v\u00e9nyi gum\u00f3kat is . A nappal akt\u00edv \u00e1llatok f\u00f6ldalatti \u00fcregrendszert \u00e1snak , amelynek t\u00f6bb bej\u00e1rata is van . Ha a szurik\u00e1t\u00e1k idegen csapattal vagy ragadoz\u00f3val ker\u00fclnek szembe , azonnal elkezdenek \u00e1sni , nagy porfelh\u0151t kavarva . Az is gyakorta el\u0151fordul , hogy szorosan egym\u00e1shoz b\u00fajnak , felborzolj\u00e1k sz\u0151r\u00fcket , megny\u00fajtj\u00e1k test\u00fcket , hogy min\u00e9l nagyobbnak l\u00e1tsz\u00f3djanak . Az el\u0151ad\u00e1suk cs\u00facspontj\u00e1n pedig az eg\u00e9sz csapat a leveg\u0151be ugrik , k\u00f6zben pedig morog . A hangad\u00e1s egy\u00e9bk\u00e9nt is fontos a szurik\u00e1t\u00e1k kapcsolat\u00e1ban , az egyedek legal\u00e1bb t\u00edzf\u00e9le jelz\u00e9st haszn\u00e1lnak a kol\u00f3ni\u00e1n bel\u00fcl ."}]}
transformers pytorch mt5 text2text-generation summarization hu license:apache-2.0 autotrain_compatible endpoints_compatible text-generation-inference region:us
TAGS
#transformers #pytorch #mt5 #text2text-generation #summarization #hu #license-apache-2.0 #autotrain_compatible #endpoints_compatible #text-generation-inference #region-us 

Hungarian Abstractive Summarization with mT5-base model
=======================================================


For further details, see or our demo site.


* Finetuned on mT5-base model
* Prefix: "summarize: "
* Finetuned on HI corpus (URL + URL)
	+ Segments: 559162


Limitations
-----------


* tokenized input text (tokenizer: HuSpaCy)
* max\_source\_length = 1024
* max\_target\_length = 256


Results
-------



Usage with pipeline
-------------------


If you use this model, please cite the following paper:



TAGS
#transformers #pytorch #mt5 #text2text-generation #summarization #hu #license-apache-2.0 #autotrain_compatible #endpoints_compatible #text-generation-inference #region-us 

TAGS
#transformers #pytorch #mt5 #text2text-generation #summarization #hu #license-apache-2.0 #autotrain_compatible #endpoints_compatible #text-generation-inference #region-us 
