transformers tensorboard safetensors segformer vision image-segmentation generated_from_trainer base_model:nvidia/mit-b0 license:other endpoints_compatible region:us
---
license: other
base_model: nvidia/mit-b0
tags:
- vision
- image-segmentation
- generated_from_trainer
model-index:
- name: segformer-b0-finetuned-segments-sidewalk-oct-22
  results: []
---

<!-- This model card has been generated automatically according to the information the Trainer had access to. You
should probably proofread and complete it, then remove this comment. -->

# segformer-b0-finetuned-segments-sidewalk-oct-22

This model is a fine-tuned version of [nvidia/mit-b0](https://huggingface.co/nvidia/mit-b0) on the jaradat/pidray-semantics dataset.
It achieves the following results on the evaluation set:
- Loss: 0.0270
- Mean Iou: 0.0
- Mean Accuracy: nan
- Overall Accuracy: nan
- Accuracy Baton: nan
- Accuracy Pliers: nan
- Accuracy Hammer: nan
- Accuracy Powerbank: nan
- Accuracy Scissors: nan
- Accuracy Wrench: nan
- Accuracy Gun: nan
- Accuracy Bullet: nan
- Accuracy Sprayer: nan
- Accuracy Handcuffs: nan
- Accuracy Knife: nan
- Accuracy Lighter: nan
- Iou Baton: 0.0
- Iou Pliers: 0.0
- Iou Hammer: nan
- Iou Powerbank: nan
- Iou Scissors: nan
- Iou Wrench: nan
- Iou Gun: nan
- Iou Bullet: nan
- Iou Sprayer: nan
- Iou Handcuffs: nan
- Iou Knife: nan
- Iou Lighter: nan

## Model description

More information needed

## Intended uses & limitations

More information needed

## Training and evaluation data

More information needed

## Training procedure

### Training hyperparameters

The following hyperparameters were used during training:
- learning_rate: 6e-05
- train_batch_size: 2
- eval_batch_size: 2
- seed: 42
- optimizer: Adam with betas=(0.9,0.999) and epsilon=1e-08
- lr_scheduler_type: linear
- num_epochs: 50

### Training results

| Training Loss | Epoch | Step | Validation Loss | Mean Iou | Mean Accuracy | Overall Accuracy | Accuracy Baton | Accuracy Pliers | Accuracy Hammer | Accuracy Powerbank | Accuracy Scissors | Accuracy Wrench | Accuracy Gun | Accuracy Bullet | Accuracy Sprayer | Accuracy Handcuffs | Accuracy Knife | Accuracy Lighter | Iou Baton | Iou Pliers | Iou Hammer | Iou Powerbank | Iou Scissors | Iou Wrench | Iou Gun | Iou Bullet | Iou Sprayer | Iou Handcuffs | Iou Knife | Iou Lighter |
|:-------------:|:-----:|:----:|:---------------:|:--------:|:-------------:|:----------------:|:--------------:|:---------------:|:---------------:|:------------------:|:-----------------:|:---------------:|:------------:|:---------------:|:----------------:|:------------------:|:--------------:|:----------------:|:---------:|:----------:|:----------:|:-------------:|:------------:|:----------:|:-------:|:----------:|:-----------:|:-------------:|:---------:|:-----------:|
| 0.2674        | 0.5   | 20   | 0.5878          | 0.0      | nan           | nan              | nan            | nan             | nan             | nan                | nan               | nan             | nan          | nan             | nan              | nan                | nan            | nan              | 0.0       | 0.0        | nan        | nan           | nan          | nan        | nan     | nan        | nan         | nan           | nan       | nan         |
| 0.041         | 1.0   | 40   | 0.1039          | 0.0      | nan           | nan              | nan            | nan             | nan             | nan                | nan               | nan             | nan          | nan             | nan              | nan                | nan            | nan              | 0.0       | 0.0        | nan        | nan           | nan          | nan        | nan     | nan        | nan         | nan           | nan       | nan         |
| 0.0197        | 1.5   | 60   | 0.0598          | 0.0      | nan           | nan              | nan            | nan             | nan             | nan                | nan               | nan             | nan          | nan             | nan              | nan                | nan            | nan              | 0.0       | 0.0        | nan        | nan           | nan          | nan        | nan     | nan        | nan         | nan           | nan       | nan         |
| 0.0776        | 2.0   | 80   | 0.0554          | 0.0      | nan           | nan              | nan            | nan             | nan             | nan                | nan               | nan             | nan          | nan             | nan              | nan                | nan            | nan              | 0.0       | 0.0        | nan        | nan           | nan          | nan        | nan     | nan        | nan         | nan           | nan       | nan         |
| 0.0697        | 2.5   | 100  | 0.1156          | 0.0      | nan           | nan              | nan            | nan             | nan             | nan                | nan               | nan             | nan          | nan             | nan              | nan                | nan            | nan              | 0.0       | 0.0        | nan        | nan           | nan          | nan        | nan     | nan        | nan         | nan           | nan       | nan         |
| 0.0659        | 3.0   | 120  | 0.1477          | 0.0      | nan           | nan              | nan            | nan             | nan             | nan                | nan               | nan             | nan          | nan             | nan              | nan                | nan            | nan              | 0.0       | 0.0        | nan        | nan           | nan          | nan        | nan     | nan        | nan         | nan           | nan       | nan         |
| 0.0146        | 3.5   | 140  | 0.0329          | 0.0      | nan           | nan              | nan            | nan             | nan             | nan                | nan               | nan             | nan          | nan             | nan              | nan                | nan            | nan              | 0.0       | 0.0        | nan        | nan           | nan          | nan        | nan     | nan        | nan         | nan           | nan       | nan         |
| 0.0819        | 4.0   | 160  | 0.0870          | 0.0      | nan           | nan              | nan            | nan             | nan             | nan                | nan               | nan             | nan          | nan             | nan              | nan                | nan            | nan              | 0.0       | 0.0        | nan        | nan           | nan          | nan        | nan     | nan        | nan         | nan           | nan       | nan         |
| 0.0008        | 4.5   | 180  | 0.0381          | 0.0      | nan           | nan              | nan            | nan             | nan             | nan                | nan               | nan             | nan          | nan             | nan              | nan                | nan            | nan              | 0.0       | 0.0        | nan        | nan           | nan          | nan        | nan     | nan        | nan         | nan           | nan       | nan         |
| 0.0337        | 5.0   | 200  | 0.0527          | 0.0      | nan           | nan              | nan            | nan             | nan             | nan                | nan               | nan             | nan          | nan             | nan              | nan                | nan            | nan              | 0.0       | 0.0        | nan        | nan           | nan          | nan        | nan     | nan        | nan         | nan           | nan       | nan         |
| 0.0216        | 5.5   | 220  | 0.0849          | 0.0      | nan           | nan              | nan            | nan             | nan             | nan                | nan               | nan             | nan          | nan             | nan              | nan                | nan            | nan              | 0.0       | 0.0        | nan        | nan           | nan          | nan        | nan     | nan        | nan         | nan           | nan       | nan         |
| 0.0004        | 6.0   | 240  | 0.0613          | 0.0      | nan           | nan              | nan            | nan             | nan             | nan                | nan               | nan             | nan          | nan             | nan              | nan                | nan            | nan              | 0.0       | 0.0        | nan        | nan           | nan          | nan        | nan     | nan        | nan         | nan           | nan       | nan         |
| 0.0055        | 6.5   | 260  | 0.0541          | 0.0      | nan           | nan              | nan            | nan             | nan             | nan                | nan               | nan             | nan          | nan             | nan              | nan                | nan            | nan              | 0.0       | 0.0        | nan        | nan           | nan          | nan        | nan     | nan        | nan         | nan           | nan       | nan         |
| 0.002         | 7.0   | 280  | 0.0320          | 0.0      | nan           | nan              | nan            | nan             | nan             | nan                | nan               | nan             | nan          | nan             | nan              | nan                | nan            | nan              | 0.0       | 0.0        | nan        | nan           | nan          | nan        | nan     | nan        | nan         | nan           | nan       | nan         |
| 0.0011        | 7.5   | 300  | 0.0454          | 0.0      | nan           | nan              | nan            | nan             | nan             | nan                | nan               | nan             | nan          | nan             | nan              | nan                | nan            | nan              | 0.0       | 0.0        | nan        | nan           | nan          | nan        | nan     | nan        | nan         | nan           | nan       | nan         |
| 0.0798        | 8.0   | 320  | 0.0255          | 0.0      | nan           | nan              | nan            | nan             | nan             | nan                | nan               | nan             | nan          | nan             | nan              | nan                | nan            | nan              | 0.0       | 0.0        | nan        | nan           | nan          | nan        | nan     | nan        | nan         | nan           | nan       | nan         |
| 0.0           | 8.5   | 340  | 0.0362          | 0.0      | nan           | nan              | nan            | nan             | nan             | nan                | nan               | nan             | nan          | nan             | nan              | nan                | nan            | nan              | 0.0       | 0.0        | nan        | nan           | nan          | nan        | nan     | nan        | nan         | nan           | nan       | nan         |
| 0.003         | 9.0   | 360  | 0.0143          | 0.0      | nan           | nan              | nan            | nan             | nan             | nan                | nan               | nan             | nan          | nan             | nan              | nan                | nan            | nan              | 0.0       | 0.0        | nan        | nan           | nan          | nan        | nan     | nan        | nan         | nan           | nan       | nan         |
| 0.002         | 9.5   | 380  | 0.0212          | 0.0      | nan           | nan              | nan            | nan             | nan             | nan                | nan               | nan             | nan          | nan             | nan              | nan                | nan            | nan              | 0.0       | 0.0        | nan        | nan           | nan          | nan        | nan     | nan        | nan         | nan           | nan       | nan         |
| 0.0004        | 10.0  | 400  | 0.0346          | 0.0      | nan           | nan              | nan            | nan             | nan             | nan                | nan               | nan             | nan          | nan             | nan              | nan                | nan            | nan              | 0.0       | 0.0        | nan        | nan           | nan          | nan        | nan     | nan        | nan         | nan           | nan       | nan         |
| 0.0082        | 10.5  | 420  | 0.0503          | 0.0      | nan           | nan              | nan            | nan             | nan             | nan                | nan               | nan             | nan          | nan             | nan              | nan                | nan            | nan              | 0.0       | 0.0        | nan        | nan           | nan          | nan        | nan     | nan        | nan         | nan           | nan       | nan         |
| 0.0109        | 11.0  | 440  | 0.0249          | 0.0      | nan           | nan              | nan            | nan             | nan             | nan                | nan               | nan             | nan          | nan             | nan              | nan                | nan            | nan              | 0.0       | 0.0        | nan        | nan           | nan          | nan        | nan     | nan        | nan         | nan           | nan       | nan         |
| 0.0           | 11.5  | 460  | 0.0266          | 0.0      | nan           | nan              | nan            | nan             | nan             | nan                | nan               | nan             | nan          | nan             | nan              | nan                | nan            | nan              | 0.0       | 0.0        | nan        | nan           | nan          | nan        | nan     | nan        | nan         | nan           | nan       | nan         |
| 0.001         | 12.0  | 480  | 0.0046          | 0.0      | nan           | nan              | nan            | nan             | nan             | nan                | nan               | nan             | nan          | nan             | nan              | nan                | nan            | nan              | 0.0       | 0.0        | nan        | nan           | nan          | nan        | nan     | nan        | nan         | nan           | nan       | nan         |
| 0.002         | 12.5  | 500  | 0.0199          | 0.0      | nan           | nan              | nan            | nan             | nan             | nan                | nan               | nan             | nan          | nan             | nan              | nan                | nan            | nan              | 0.0       | 0.0        | nan        | nan           | nan          | nan        | nan     | nan        | nan         | nan           | nan       | nan         |
| 0.0001        | 13.0  | 520  | 0.0158          | 0.0      | nan           | nan              | nan            | nan             | nan             | nan                | nan               | nan             | nan          | nan             | nan              | nan                | nan            | nan              | 0.0       | 0.0        | nan        | nan           | nan          | nan        | nan     | nan        | nan         | nan           | nan       | nan         |
| 0.0           | 13.5  | 540  | 0.0122          | 0.0      | nan           | nan              | nan            | nan             | nan             | nan                | nan               | nan             | nan          | nan             | nan              | nan                | nan            | nan              | 0.0       | 0.0        | nan        | nan           | nan          | nan        | nan     | nan        | nan         | nan           | nan       | nan         |
| 0.0003        | 14.0  | 560  | 0.0157          | 0.0      | nan           | nan              | nan            | nan             | nan             | nan                | nan               | nan             | nan          | nan             | nan              | nan                | nan            | nan              | 0.0       | 0.0        | nan        | nan           | nan          | nan        | nan     | nan        | nan         | nan           | nan       | nan         |
| 0.0001        | 14.5  | 580  | 0.0188          | 0.0      | nan           | nan              | nan            | nan             | nan             | nan                | nan               | nan             | nan          | nan             | nan              | nan                | nan            | nan              | 0.0       | 0.0        | nan        | nan           | nan          | nan        | nan     | nan        | nan         | nan           | nan       | nan         |
| 0.0           | 15.0  | 600  | 0.0211          | 0.0      | nan           | nan              | nan            | nan             | nan             | nan                | nan               | nan             | nan          | nan             | nan              | nan                | nan            | nan              | 0.0       | 0.0        | nan        | nan           | nan          | nan        | nan     | nan        | nan         | nan           | nan       | nan         |
| 0.0006        | 15.5  | 620  | 0.0147          | 0.0      | nan           | nan              | nan            | nan             | nan             | nan                | nan               | nan             | nan          | nan             | nan              | nan                | nan            | nan              | 0.0       | 0.0        | nan        | nan           | nan          | nan        | nan     | nan        | nan         | nan           | nan       | nan         |
| 0.0001        | 16.0  | 640  | 0.0116          | 0.0      | nan           | nan              | nan            | nan             | nan             | nan                | nan               | nan             | nan          | nan             | nan              | nan                | nan            | nan              | 0.0       | 0.0        | nan        | nan           | nan          | nan        | nan     | nan        | nan         | nan           | nan       | nan         |
| 0.0           | 16.5  | 660  | 0.0301          | 0.0      | nan           | nan              | nan            | nan             | nan             | nan                | nan               | nan             | nan          | nan             | nan              | nan                | nan            | nan              | 0.0       | 0.0        | nan        | nan           | nan          | nan        | nan     | nan        | nan         | nan           | nan       | nan         |
| 0.0           | 17.0  | 680  | 0.0157          | 0.0      | nan           | nan              | nan            | nan             | nan             | nan                | nan               | nan             | nan          | nan             | nan              | nan                | nan            | nan              | 0.0       | 0.0        | nan        | nan           | nan          | nan        | nan     | nan        | nan         | nan           | nan       | nan         |
| 0.0001        | 17.5  | 700  | 0.0213          | 0.0      | nan           | nan              | nan            | nan             | nan             | nan                | nan               | nan             | nan          | nan             | nan              | nan                | nan            | nan              | 0.0       | 0.0        | nan        | nan           | nan          | nan        | nan     | nan        | nan         | nan           | nan       | nan         |
| 0.0017        | 18.0  | 720  | 0.0140          | 0.0      | nan           | nan              | nan            | nan             | nan             | nan                | nan               | nan             | nan          | nan             | nan              | nan                | nan            | nan              | 0.0       | 0.0        | nan        | nan           | nan          | nan        | nan     | nan        | nan         | nan           | nan       | nan         |
| 0.0005        | 18.5  | 740  | 0.0131          | 0.0      | nan           | nan              | nan            | nan             | nan             | nan                | nan               | nan             | nan          | nan             | nan              | nan                | nan            | nan              | 0.0       | 0.0        | nan        | nan           | nan          | nan        | nan     | nan        | nan         | nan           | nan       | nan         |
| 0.0           | 19.0  | 760  | 0.0133          | 0.0      | nan           | nan              | nan            | nan             | nan             | nan                | nan               | nan             | nan          | nan             | nan              | nan                | nan            | nan              | 0.0       | 0.0        | nan        | nan           | nan          | nan        | nan     | nan        | nan         | nan           | nan       | nan         |
| 0.0055        | 19.5  | 780  | 0.0207          | 0.0      | nan           | nan              | nan            | nan             | nan             | nan                | nan               | nan             | nan          | nan             | nan              | nan                | nan            | nan              | 0.0       | 0.0        | nan        | nan           | nan          | nan        | nan     | nan        | nan         | nan           | nan       | nan         |
| 0.0002        | 20.0  | 800  | 0.0350          | 0.0      | nan           | nan              | nan            | nan             | nan             | nan                | nan               | nan             | nan          | nan             | nan              | nan                | nan            | nan              | 0.0       | 0.0        | nan        | nan           | nan          | nan        | nan     | nan        | nan         | nan           | nan       | nan         |
| 0.0004        | 20.5  | 820  | 0.0197          | 0.0      | nan           | nan              | nan            | nan             | nan             | nan                | nan               | nan             | nan          | nan             | nan              | nan                | nan            | nan              | 0.0       | 0.0        | nan        | nan           | nan          | nan        | nan     | nan        | nan         | nan           | nan       | nan         |
| 0.0002        | 21.0  | 840  | 0.0229          | 0.0      | nan           | nan              | nan            | nan             | nan             | nan                | nan               | nan             | nan          | nan             | nan              | nan                | nan            | nan              | 0.0       | 0.0        | nan        | nan           | nan          | nan        | nan     | nan        | nan         | nan           | nan       | nan         |
| 0.0017        | 21.5  | 860  | 0.0356          | 0.0      | nan           | nan              | nan            | nan             | nan             | nan                | nan               | nan             | nan          | nan             | nan              | nan                | nan            | nan              | 0.0       | 0.0        | nan        | nan           | nan          | nan        | nan     | nan        | nan         | nan           | nan       | nan         |
| 0.0           | 22.0  | 880  | 0.0237          | 0.0      | nan           | nan              | nan            | nan             | nan             | nan                | nan               | nan             | nan          | nan             | nan              | nan                | nan            | nan              | 0.0       | 0.0        | nan        | nan           | nan          | nan        | nan     | nan        | nan         | nan           | nan       | nan         |
| 0.0063        | 22.5  | 900  | 0.0257          | 0.0      | nan           | nan              | nan            | nan             | nan             | nan                | nan               | nan             | nan          | nan             | nan              | nan                | nan            | nan              | 0.0       | 0.0        | nan        | nan           | nan          | nan        | nan     | nan        | nan         | nan           | nan       | nan         |
| 0.0           | 23.0  | 920  | 0.0229          | 0.0      | nan           | nan              | nan            | nan             | nan             | nan                | nan               | nan             | nan          | nan             | nan              | nan                | nan            | nan              | 0.0       | 0.0        | nan        | nan           | nan          | nan        | nan     | nan        | nan         | nan           | nan       | nan         |
| 0.0004        | 23.5  | 940  | 0.0118          | 0.0      | nan           | nan              | nan            | nan             | nan             | nan                | nan               | nan             | nan          | nan             | nan              | nan                | nan            | nan              | 0.0       | 0.0        | nan        | nan           | nan          | nan        | nan     | nan        | nan         | nan           | nan       | nan         |
| 0.0002        | 24.0  | 960  | 0.0268          | 0.0      | nan           | nan              | nan            | nan             | nan             | nan                | nan               | nan             | nan          | nan             | nan              | nan                | nan            | nan              | 0.0       | 0.0        | nan        | nan           | nan          | nan        | nan     | nan        | nan         | nan           | nan       | nan         |
| 0.0017        | 24.5  | 980  | 0.0344          | 0.0      | nan           | nan              | nan            | nan             | nan             | nan                | nan               | nan             | nan          | nan             | nan              | nan                | nan            | nan              | 0.0       | 0.0        | nan        | nan           | nan          | nan        | nan     | nan        | nan         | nan           | nan       | nan         |
| 0.0001        | 25.0  | 1000 | 0.0189          | 0.0      | nan           | nan              | nan            | nan             | nan             | nan                | nan               | nan             | nan          | nan             | nan              | nan                | nan            | nan              | 0.0       | 0.0        | nan        | nan           | nan          | nan        | nan     | nan        | nan         | nan           | nan       | nan         |
| 0.0001        | 25.5  | 1020 | 0.0146          | 0.0      | nan           | nan              | nan            | nan             | nan             | nan                | nan               | nan             | nan          | nan             | nan              | nan                | nan            | nan              | 0.0       | 0.0        | nan        | nan           | nan          | nan        | nan     | nan        | nan         | nan           | nan       | nan         |
| 0.0002        | 26.0  | 1040 | 0.0274          | 0.0      | nan           | nan              | nan            | nan             | nan             | nan                | nan               | nan             | nan          | nan             | nan              | nan                | nan            | nan              | 0.0       | 0.0        | nan        | nan           | nan          | nan        | nan     | nan        | nan         | nan           | nan       | nan         |
| 0.0           | 26.5  | 1060 | 0.0212          | 0.0      | nan           | nan              | nan            | nan             | nan             | nan                | nan               | nan             | nan          | nan             | nan              | nan                | nan            | nan              | 0.0       | 0.0        | nan        | nan           | nan          | nan        | nan     | nan        | nan         | nan           | nan       | nan         |
| 0.0001        | 27.0  | 1080 | 0.0207          | 0.0      | nan           | nan              | nan            | nan             | nan             | nan                | nan               | nan             | nan          | nan             | nan              | nan                | nan            | nan              | 0.0       | 0.0        | nan        | nan           | nan          | nan        | nan     | nan        | nan         | nan           | nan       | nan         |
| 0.0           | 27.5  | 1100 | 0.0229          | 0.0      | nan           | nan              | nan            | nan             | nan             | nan                | nan               | nan             | nan          | nan             | nan              | nan                | nan            | nan              | 0.0       | 0.0        | nan        | nan           | nan          | nan        | nan     | nan        | nan         | nan           | nan       | nan         |
| 0.0           | 28.0  | 1120 | 0.0188          | 0.0      | nan           | nan              | nan            | nan             | nan             | nan                | nan               | nan             | nan          | nan             | nan              | nan                | nan            | nan              | 0.0       | 0.0        | nan        | nan           | nan          | nan        | nan     | nan        | nan         | nan           | nan       | nan         |
| 0.0017        | 28.5  | 1140 | 0.0165          | 0.0      | nan           | nan              | nan            | nan             | nan             | nan                | nan               | nan             | nan          | nan             | nan              | nan                | nan            | nan              | 0.0       | 0.0        | nan        | nan           | nan          | nan        | nan     | nan        | nan         | nan           | nan       | nan         |
| 0.0001        | 29.0  | 1160 | 0.0188          | 0.0      | nan           | nan              | nan            | nan             | nan             | nan                | nan               | nan             | nan          | nan             | nan              | nan                | nan            | nan              | 0.0       | 0.0        | nan        | nan           | nan          | nan        | nan     | nan        | nan         | nan           | nan       | nan         |
| 0.0003        | 29.5  | 1180 | 0.0151          | 0.0      | nan           | nan              | nan            | nan             | nan             | nan                | nan               | nan             | nan          | nan             | nan              | nan                | nan            | nan              | 0.0       | 0.0        | nan        | nan           | nan          | nan        | nan     | nan        | nan         | nan           | nan       | nan         |
| 0.0004        | 30.0  | 1200 | 0.0207          | 0.0      | nan           | nan              | nan            | nan             | nan             | nan                | nan               | nan             | nan          | nan             | nan              | nan                | nan            | nan              | 0.0       | 0.0        | nan        | nan           | nan          | nan        | nan     | nan        | nan         | nan           | nan       | nan         |
| 0.0           | 30.5  | 1220 | 0.0256          | 0.0      | nan           | nan              | nan            | nan             | nan             | nan                | nan               | nan             | nan          | nan             | nan              | nan                | nan            | nan              | 0.0       | 0.0        | nan        | nan           | nan          | nan        | nan     | nan        | nan         | nan           | nan       | nan         |
| 0.0002        | 31.0  | 1240 | 0.0236          | 0.0      | nan           | nan              | nan            | nan             | nan             | nan                | nan               | nan             | nan          | nan             | nan              | nan                | nan            | nan              | 0.0       | 0.0        | nan        | nan           | nan          | nan        | nan     | nan        | nan         | nan           | nan       | nan         |
| 0.0001        | 31.5  | 1260 | 0.0305          | 0.0      | nan           | nan              | nan            | nan             | nan             | nan                | nan               | nan             | nan          | nan             | nan              | nan                | nan            | nan              | 0.0       | 0.0        | nan        | nan           | nan          | nan        | nan     | nan        | nan         | nan           | nan       | nan         |
| 0.0           | 32.0  | 1280 | 0.0224          | 0.0      | nan           | nan              | nan            | nan             | nan             | nan                | nan               | nan             | nan          | nan             | nan              | nan                | nan            | nan              | 0.0       | 0.0        | nan        | nan           | nan          | nan        | nan     | nan        | nan         | nan           | nan       | nan         |
| 0.0           | 32.5  | 1300 | 0.0209          | 0.0      | nan           | nan              | nan            | nan             | nan             | nan                | nan               | nan             | nan          | nan             | nan              | nan                | nan            | nan              | 0.0       | 0.0        | nan        | nan           | nan          | nan        | nan     | nan        | nan         | nan           | nan       | nan         |
| 0.0002        | 33.0  | 1320 | 0.0177          | 0.0      | nan           | nan              | nan            | nan             | nan             | nan                | nan               | nan             | nan          | nan             | nan              | nan                | nan            | nan              | 0.0       | 0.0        | nan        | nan           | nan          | nan        | nan     | nan        | nan         | nan           | nan       | nan         |
| 0.0           | 33.5  | 1340 | 0.0285          | 0.0      | nan           | nan              | nan            | nan             | nan             | nan                | nan               | nan             | nan          | nan             | nan              | nan                | nan            | nan              | 0.0       | 0.0        | nan        | nan           | nan          | nan        | nan     | nan        | nan         | nan           | nan       | nan         |
| 0.0           | 34.0  | 1360 | 0.0268          | 0.0      | nan           | nan              | nan            | nan             | nan             | nan                | nan               | nan             | nan          | nan             | nan              | nan                | nan            | nan              | 0.0       | 0.0        | nan        | nan           | nan          | nan        | nan     | nan        | nan         | nan           | nan       | nan         |
| 0.0           | 34.5  | 1380 | 0.0232          | 0.0      | nan           | nan              | nan            | nan             | nan             | nan                | nan               | nan             | nan          | nan             | nan              | nan                | nan            | nan              | 0.0       | 0.0        | nan        | nan           | nan          | nan        | nan     | nan        | nan         | nan           | nan       | nan         |
| 0.0           | 35.0  | 1400 | 0.0309          | 0.0      | nan           | nan              | nan            | nan             | nan             | nan                | nan               | nan             | nan          | nan             | nan              | nan                | nan            | nan              | 0.0       | 0.0        | nan        | nan           | nan          | nan        | nan     | nan        | nan         | nan           | nan       | nan         |
| 0.0001        | 35.5  | 1420 | 0.0337          | 0.0      | nan           | nan              | nan            | nan             | nan             | nan                | nan               | nan             | nan          | nan             | nan              | nan                | nan            | nan              | 0.0       | 0.0        | nan        | nan           | nan          | nan        | nan     | nan        | nan         | nan           | nan       | nan         |
| 0.0004        | 36.0  | 1440 | 0.0253          | 0.0      | nan           | nan              | nan            | nan             | nan             | nan                | nan               | nan             | nan          | nan             | nan              | nan                | nan            | nan              | 0.0       | 0.0        | nan        | nan           | nan          | nan        | nan     | nan        | nan         | nan           | nan       | nan         |
| 0.0           | 36.5  | 1460 | 0.0249          | 0.0      | nan           | nan              | nan            | nan             | nan             | nan                | nan               | nan             | nan          | nan             | nan              | nan                | nan            | nan              | 0.0       | 0.0        | nan        | nan           | nan          | nan        | nan     | nan        | nan         | nan           | nan       | nan         |
| 0.0           | 37.0  | 1480 | 0.0249          | 0.0      | nan           | nan              | nan            | nan             | nan             | nan                | nan               | nan             | nan          | nan             | nan              | nan                | nan            | nan              | 0.0       | 0.0        | nan        | nan           | nan          | nan        | nan     | nan        | nan         | nan           | nan       | nan         |
| 0.0011        | 37.5  | 1500 | 0.0316          | 0.0      | nan           | nan              | nan            | nan             | nan             | nan                | nan               | nan             | nan          | nan             | nan              | nan                | nan            | nan              | 0.0       | 0.0        | nan        | nan           | nan          | nan        | nan     | nan        | nan         | nan           | nan       | nan         |
| 0.0           | 38.0  | 1520 | 0.0305          | 0.0      | nan           | nan              | nan            | nan             | nan             | nan                | nan               | nan             | nan          | nan             | nan              | nan                | nan            | nan              | 0.0       | 0.0        | nan        | nan           | nan          | nan        | nan     | nan        | nan         | nan           | nan       | nan         |
| 0.0           | 38.5  | 1540 | 0.0227          | 0.0      | nan           | nan              | nan            | nan             | nan             | nan                | nan               | nan             | nan          | nan             | nan              | nan                | nan            | nan              | 0.0       | 0.0        | nan        | nan           | nan          | nan        | nan     | nan        | nan         | nan           | nan       | nan         |
| 0.0002        | 39.0  | 1560 | 0.0146          | 0.0      | nan           | nan              | nan            | nan             | nan             | nan                | nan               | nan             | nan          | nan             | nan              | nan                | nan            | nan              | 0.0       | 0.0        | nan        | nan           | nan          | nan        | nan     | nan        | nan         | nan           | nan       | nan         |
| 0.0002        | 39.5  | 1580 | 0.0362          | 0.0      | nan           | nan              | nan            | nan             | nan             | nan                | nan               | nan             | nan          | nan             | nan              | nan                | nan            | nan              | 0.0       | 0.0        | nan        | nan           | nan          | nan        | nan     | nan        | nan         | nan           | nan       | nan         |
| 0.0           | 40.0  | 1600 | 0.0342          | 0.0      | nan           | nan              | nan            | nan             | nan             | nan                | nan               | nan             | nan          | nan             | nan              | nan                | nan            | nan              | 0.0       | 0.0        | nan        | nan           | nan          | nan        | nan     | nan        | nan         | nan           | nan       | nan         |
| 0.0021        | 40.5  | 1620 | 0.0283          | 0.0      | nan           | nan              | nan            | nan             | nan             | nan                | nan               | nan             | nan          | nan             | nan              | nan                | nan            | nan              | 0.0       | 0.0        | nan        | nan           | nan          | nan        | nan     | nan        | nan         | nan           | nan       | nan         |
| 0.0           | 41.0  | 1640 | 0.0227          | 0.0      | nan           | nan              | nan            | nan             | nan             | nan                | nan               | nan             | nan          | nan             | nan              | nan                | nan            | nan              | 0.0       | 0.0        | nan        | nan           | nan          | nan        | nan     | nan        | nan         | nan           | nan       | nan         |
| 0.0           | 41.5  | 1660 | 0.0270          | 0.0      | nan           | nan              | nan            | nan             | nan             | nan                | nan               | nan             | nan          | nan             | nan              | nan                | nan            | nan              | 0.0       | 0.0        | nan        | nan           | nan          | nan        | nan     | nan        | nan         | nan           | nan       | nan         |
| 0.0           | 42.0  | 1680 | 0.0268          | 0.0      | nan           | nan              | nan            | nan             | nan             | nan                | nan               | nan             | nan          | nan             | nan              | nan                | nan            | nan              | 0.0       | 0.0        | nan        | nan           | nan          | nan        | nan     | nan        | nan         | nan           | nan       | nan         |
| 0.0           | 42.5  | 1700 | 0.0251          | 0.0      | nan           | nan              | nan            | nan             | nan             | nan                | nan               | nan             | nan          | nan             | nan              | nan                | nan            | nan              | 0.0       | 0.0        | nan        | nan           | nan          | nan        | nan     | nan        | nan         | nan           | nan       | nan         |
| 0.0           | 43.0  | 1720 | 0.0263          | 0.0      | nan           | nan              | nan            | nan             | nan             | nan                | nan               | nan             | nan          | nan             | nan              | nan                | nan            | nan              | 0.0       | 0.0        | nan        | nan           | nan          | nan        | nan     | nan        | nan         | nan           | nan       | nan         |
| 0.0           | 43.5  | 1740 | 0.0265          | 0.0      | nan           | nan              | nan            | nan             | nan             | nan                | nan               | nan             | nan          | nan             | nan              | nan                | nan            | nan              | 0.0       | 0.0        | nan        | nan           | nan          | nan        | nan     | nan        | nan         | nan           | nan       | nan         |
| 0.0002        | 44.0  | 1760 | 0.0266          | 0.0      | nan           | nan              | nan            | nan             | nan             | nan                | nan               | nan             | nan          | nan             | nan              | nan                | nan            | nan              | 0.0       | 0.0        | nan        | nan           | nan          | nan        | nan     | nan        | nan         | nan           | nan       | nan         |
| 0.0006        | 44.5  | 1780 | 0.0282          | 0.0      | nan           | nan              | nan            | nan             | nan             | nan                | nan               | nan             | nan          | nan             | nan              | nan                | nan            | nan              | 0.0       | 0.0        | nan        | nan           | nan          | nan        | nan     | nan        | nan         | nan           | nan       | nan         |
| 0.0           | 45.0  | 1800 | 0.0244          | 0.0      | nan           | nan              | nan            | nan             | nan             | nan                | nan               | nan             | nan          | nan             | nan              | nan                | nan            | nan              | 0.0       | 0.0        | nan        | nan           | nan          | nan        | nan     | nan        | nan         | nan           | nan       | nan         |
| 0.0016        | 45.5  | 1820 | 0.0322          | 0.0      | nan           | nan              | nan            | nan             | nan             | nan                | nan               | nan             | nan          | nan             | nan              | nan                | nan            | nan              | 0.0       | 0.0        | nan        | nan           | nan          | nan        | nan     | nan        | nan         | nan           | nan       | nan         |
| 0.0           | 46.0  | 1840 | 0.0249          | 0.0      | nan           | nan              | nan            | nan             | nan             | nan                | nan               | nan             | nan          | nan             | nan              | nan                | nan            | nan              | 0.0       | 0.0        | nan        | nan           | nan          | nan        | nan     | nan        | nan         | nan           | nan       | nan         |
| 0.0           | 46.5  | 1860 | 0.0230          | 0.0      | nan           | nan              | nan            | nan             | nan             | nan                | nan               | nan             | nan          | nan             | nan              | nan                | nan            | nan              | 0.0       | 0.0        | nan        | nan           | nan          | nan        | nan     | nan        | nan         | nan           | nan       | nan         |
| 0.0           | 47.0  | 1880 | 0.0213          | 0.0      | nan           | nan              | nan            | nan             | nan             | nan                | nan               | nan             | nan          | nan             | nan              | nan                | nan            | nan              | 0.0       | 0.0        | nan        | nan           | nan          | nan        | nan     | nan        | nan         | nan           | nan       | nan         |
| 0.0001        | 47.5  | 1900 | 0.0255          | 0.0      | nan           | nan              | nan            | nan             | nan             | nan                | nan               | nan             | nan          | nan             | nan              | nan                | nan            | nan              | 0.0       | 0.0        | nan        | nan           | nan          | nan        | nan     | nan        | nan         | nan           | nan       | nan         |
| 0.0           | 48.0  | 1920 | 0.0240          | 0.0      | nan           | nan              | nan            | nan             | nan             | nan                | nan               | nan             | nan          | nan             | nan              | nan                | nan            | nan              | 0.0       | 0.0        | nan        | nan           | nan          | nan        | nan     | nan        | nan         | nan           | nan       | nan         |
| 0.0002        | 48.5  | 1940 | 0.0243          | 0.0      | nan           | nan              | nan            | nan             | nan             | nan                | nan               | nan             | nan          | nan             | nan              | nan                | nan            | nan              | 0.0       | 0.0        | nan        | nan           | nan          | nan        | nan     | nan        | nan         | nan           | nan       | nan         |
| 0.0           | 49.0  | 1960 | 0.0255          | 0.0      | nan           | nan              | nan            | nan             | nan             | nan                | nan               | nan             | nan          | nan             | nan              | nan                | nan            | nan              | 0.0       | 0.0        | nan        | nan           | nan          | nan        | nan     | nan        | nan         | nan           | nan       | nan         |
| 0.0           | 49.5  | 1980 | 0.0257          | 0.0      | nan           | nan              | nan            | nan             | nan             | nan                | nan               | nan             | nan          | nan             | nan              | nan                | nan            | nan              | 0.0       | 0.0        | nan        | nan           | nan          | nan        | nan     | nan        | nan         | nan           | nan       | nan         |
| 0.0           | 50.0  | 2000 | 0.0270          | 0.0      | nan           | nan              | nan            | nan             | nan             | nan                | nan               | nan             | nan          | nan             | nan              | nan                | nan            | nan              | 0.0       | 0.0        | nan        | nan           | nan          | nan        | nan     | nan        | nan         | nan           | nan       | nan         |


### Framework versions

- Transformers 4.37.2
- Pytorch 2.1.0+cu121
- Datasets 2.17.0
- Tokenizers 0.15.2
