
# AIFT-42dot-LLM-PLM-1.3B-ao-instruct-all-v0.9

베이스 모델 : 42dot/42dot_LLM-PLM-1.3B

학습 데이터 : 자체 제작한 Open Orca 스타일 데이터셋 약 48,000건 (중복 제거 및 데이터 분포 조정)

학습 방법 : Full finetuning

epoch : 3

## ko-lm-evaluation-harness(5-shot)

|kobest_boolq|kobest_copa|kobest_hellaswag|pawsx_ko|
|--|--|--|--|
|0.5220797720797721|0.721|0.472|0.5585|

## Framework versions

- Transformers 4.36.2
- Pytorch 2.1.2+cu121
- Datasets 2.0.0
- Tokenizers 0.15.0
{"license": "cc-by-nc-4.0"}
transformers safetensors llama text-generation license:cc-by-nc-4.0 autotrain_compatible endpoints_compatible text-generation-inference region:us