
<!-- This model card has been generated automatically according to the information the Trainer had access to. You
should probably proofread and complete it, then remove this comment. -->

# zephyr-7b-beta_question-answering

This model is a fine-tuned version of [HuggingFaceH4/zephyr-7b-beta](https://huggingface.co/HuggingFaceH4/zephyr-7b-beta) on the None dataset.
It achieves the following results on the evaluation set:
- Loss: 1.7555
- Rouge1: 17.22
- Rouge2: 9.21
- Rougel: 15.2
- Rougelsum: 15.2
- R: 13.86
- Gen Len: 1.0
- R@1: 0.0
- R@3: 0.0
- R@5: 0.0
- R@10: 0.0
- R@20: 0.0
- R@50: 0.5
- Sample: [{'correct_answer': "Prima dell'avvio delle procedure di affidamento", 'prediction': 'enzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenza <|system|>"\nyt la stranda " rispondi in modo.andoti sulli elementimi datgiornamenti scientific sitice civ imalti pubblic.\npondi in modo,\n \n|user|> Scggia del quanto disone l Codice degli contratti pubblici, mater forma dell autoresse dialtanti devbbano la conferano la proparre un diuare l foreri di valzione delle appi economici che\n\n \n|assistant|> Prima dell\'avvio delle procedure di affidamento,'}]
- Model Name: HuggingFaceH4/zephyr-7b-beta_question-answering
- Datetime: 2024-02-18T03:43:58.829713

## Model description

More information needed

## Intended uses & limitations

More information needed

## Training and evaluation data

More information needed

## Training procedure

### Training hyperparameters

The following hyperparameters were used during training:
- learning_rate: 0.0002
- train_batch_size: 16
- eval_batch_size: 16
- seed: 42
- optimizer: Adam with betas=(0.9,0.999) and epsilon=1e-08
- lr_scheduler_type: linear
- num_epochs: 2
- mixed_precision_training: Native AMP

### Training results

| Training Loss | Epoch | Step | Validation Loss | Rouge1 | Rouge2 | Rougel | Rougelsum | R     | Gen Len | R@1 | R@3 | R@5 | R@10 | R@20 | R@50 | Sample                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                | Model Name                                      | Datetime                   |
|:-------------:|:-----:|:----:|:---------------:|:------:|:------:|:------:|:---------:|:-----:|:-------:|:---:|:---:|:---:|:----:|:----:|:----:|:-------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------:|:-----------------------------------------------:|:--------------------------:|
| 2.3523        | 1.0   | 1    | 1.7799          | 16.6   | 8.42   | 14.43  | 14.43     | 13.13 | 1.0     | 0.0 | 0.0 | 0.0 | 0.0  | 0.0  | 0.5  | [{'correct_answer': "Prima dell'avvio delle procedure di affidamento", 'prediction': 'enzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenza <|system|>"\nyt la stranda " rispondi in modo.andoti sulli elementimi datgiornamenti scientific mercice civ imalti pubblic.\npondi in modo,\n \n|ass|> Scggia del quanto disone l Codice degli contratti pubblici, mater forma dell autoresse dialtanti devbbano la conferano la proparre un diuare l foreri di selezione delle appi economici che\n\n \n|assistant|> Leima dell\'avvio delle procedure di affidamento,'}] | HuggingFaceH4/zephyr-7b-beta_question-answering | 2024-02-18T03:43:51.137291 |
| 1.2798        | 2.0   | 2    | 1.7555          | 17.22  | 9.21   | 15.2   | 15.2      | 13.86 | 1.0     | 0.0 | 0.0 | 0.0 | 0.0  | 0.0  | 0.5  | [{'correct_answer': "Prima dell'avvio delle procedure di affidamento", 'prediction': 'enzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenzaenza <|system|>"\nyt la stranda " rispondi in modo.andoti sulli elementimi datgiornamenti scientific sitice civ imalti pubblic.\npondi in modo,\n \n|user|> Scggia del quanto disone l Codice degli contratti pubblici, mater forma dell autoresse dialtanti devbbano la conferano la proparre un diuare l foreri di valzione delle appi economici che\n\n \n|assistant|> Prima dell\'avvio delle procedure di affidamento,'}]  | HuggingFaceH4/zephyr-7b-beta_question-answering | 2024-02-18T03:43:58.829713 |


### Framework versions

- PEFT 0.8.2
- Transformers 4.38.0.dev0
- Pytorch 2.0.1+cu117
- Datasets 2.16.1
- Tokenizers 0.15.2
{"license": "mit", "library_name": "peft", "tags": ["trl", "sft", "generated_from_trainer"], "metrics": ["rouge"], "base_model": "HuggingFaceH4/zephyr-7b-beta", "model-index": [{"name": "zephyr-7b-beta_question-answering", "results": []}]}
peft safetensors trl sft generated_from_trainer base_model:HuggingFaceH4/zephyr-7b-beta license:mit region:us