
- [Ajoublue-GPT2-medium](https://huggingface.co/heegyu/ajoublue-gpt2-medium) 모델을 [koalpaca](https://huggingface.co/datasets/Bingsu/ko_alpaca_data)데이터셋에 파인튜닝한 모델
- [Huggingface Space](https://huggingface.co/spaces/heegyu/koalpaca-355m)에서 사용해볼 수 있습니다.
- 5 epoch 학습, learning rate = 5e-5

```
from transformers import pipeline

print('start model loading')
model_name = '../checkpoint/koalpaca/ajoublue-gpt2-medium/epoch-4-last/'
generator = pipeline(
    'text-generation',
    model=model_name,
    tokenizer=model_name
)

def query(instruction, input=None):
    if input:
        prompt = f"<usr>{instruction}\n{input}\n<sys>"
    else:
        prompt = f"<usr>{instruction}\n<sys>"
    
    print(generator(
        prompt,
        do_sample=True,
        top_p=0.9,
        early_stopping=True,
        max_length=256,
    )[0]['generated_text'])


query("슈카월드에 대해서 알아?")
query("세상에서 가장 유명한 사람은?")
query("알버트 아인슈타인에 대해서 설명해줘")
query("다음 영화에 대해서 설명해줘", "기생충")
```
결과
```
<usr>슈카월드에 대해서 알아?
<sys>슈카월드는 미국 캘리포니아 주의 한 도시에서 열린 어린이 놀이박람회입니다. 이 박람회는 세계에서 가장 큰 어린이 놀이박람회로 유명합니다.
<usr>세상에서 가장 유명한 사람은?
<sys>가장 유명한 사람은 니콜라 테슬라입니다.
<usr>알버트 아인슈타인에 대해서 설명해줘
<sys>알버트 아인슈타인은 1856년, 물리학 분야에서 최초로 노벨상을 수상한 물리학자입니다. 그는 상대성 이론을 비롯한 다수의 저서를 발표하며 현대 물리학의 기초를 확립하였습니다.
<usr>다음 영화에 대해서 설명해줘
기생충
<sys>"기생충"은 가족과 학교에서 도망친 사람들 사이에서 벌어지는 일을 그린 영화로, 현실적이면서도 감각적인 연출과 다양한 캐릭터들의 매력을 살리는 방식으로 관객들을 사로잡습니다.
<usr>섭씨 온도를 화씨로 변경해줘
섭씨 온도: 15도
<sys>"섭씨 온도를 화씨로 변경해주세요." -> "화씨 온도가 33도입니다."
```
{"language": ["ko"], "license": "apache-2.0", "datasets": ["Bingsu/ko_alpaca_data"], "widget": [{"text": "<usr>\uc54c\ubc84\ud2b8 \uc544\uc778\uc288\ud0c0\uc778\uc5d0 \ub300\ud574\uc11c \uc54c\uc544? <sys>"}, {"text": "<usr>\ub2e4\uc74c\uc744 \ub3d9\ubb3c, \uc2dd\ubb3c, \uad11\ubb3c\ub85c \ubd84\ub958\ud558\uc2ed\uc2dc\uc624. \ucc38\ub098\ubb34, \uad6c\ub9ac \uad11\uc11d, \ucf54\ub07c\ub9ac <sys>"}]}
transformers pytorch gpt2 text-generation ko dataset:Bingsu/ko_alpaca_data license:apache-2.0 autotrain_compatible endpoints_compatible has_space text-generation-inference region:us
TAGS
#transformers #pytorch #gpt2 #text-generation #ko #dataset-Bingsu/ko_alpaca_data #license-apache-2.0 #autotrain_compatible #endpoints_compatible #has_space #text-generation-inference #region-us 


- Ajoublue-GPT2-medium 모델을 koalpaca데이터셋에 파인튜닝한 모델
- Huggingface Space에서 사용해볼 수 있습니다.
- 5 epoch 학습, learning rate = 5e-5


결과

TAGS
#transformers #pytorch #gpt2 #text-generation #ko #dataset-Bingsu/ko_alpaca_data #license-apache-2.0 #autotrain_compatible #endpoints_compatible #has_space #text-generation-inference #region-us 

TAGS
#transformers #pytorch #gpt2 #text-generation #ko #dataset-Bingsu/ko_alpaca_data #license-apache-2.0 #autotrain_compatible #endpoints_compatible #has_space #text-generation-inference #region-us 
