SetFit with mini1013/master_domain

This is a SetFit model that can be used for Text Classification. This SetFit model uses mini1013/master_domain as the Sentence Transformer embedding model. A LogisticRegression instance is used for classification.

The model has been trained using an efficient few-shot learning technique that involves:

  1. Fine-tuning a Sentence Transformer with contrastive learning.
  2. Training a classification head with features from the fine-tuned Sentence Transformer.

Model Details

Model Description

Model Sources

Model Labels

Label Examples
6.0
  • '대퍼스냅퍼 똑딱이 매직벨트 유아벨트 [160001]똑딱이 매직벨트-레드 출산/육아 > 유아동잡화 > 벨트/멜빵'
  • '리틀그라운드룰라비(WH)-골지타이즈(73A12-816-03) 화이트_19 출산/육아 > 유아동잡화 > 벨트/멜빵'
  • '어린이 기획전 땡땡이 멜빵 블랙 잇템 출산/육아 > 유아동잡화 > 벨트/멜빵'
9.0
  • '키즈 양털 부츠 아동 여아 방한 털 신발 겨울 방한화 털신 유아 어린이 슈즈 PS8218 10_PS8220_블랙_180 출산/육아 > 유아동잡화 > 신발 > 부츠/털신'
  • '반스 키즈 운동화 팔켄 올드스쿨 유아 벨크로 115 - 220mm 01. 반스 올드스쿨V 키즈_화이트레드_160(오늘출발) 출산/육아 > 유아동잡화 > 신발 > 운동화'
  • '텐우드 뉴벤 아기 유아 아동 여아 남아 엄마랑 세트 운동화 신발 140-250 네이비_190 출산/육아 > 유아동잡화 > 신발 > 운동화'
1.0
  • '푸아송 악세 플레인귀마개 핑크_FREE 출산/육아 > 유아동잡화 > 귀마개'
  • '아동 귀마개 유아 아기 초등 여아 남아 방한 겨울 귀도리 D.방한세트_11_몰랑 핑크_핑크 (763930) 출산/육아 > 유아동잡화 > 귀마개'
  • '노스페이스키즈 귀마개 키즈 이어머프 NA5IP50S ONE 출산/육아 > 유아동잡화 > 귀마개'
2.0
  • '미니위즈 웨이브 아쿠아슈즈 핫핑크 170 출산/육아 > 유아동잡화 > 기타유아동잡화'
  • '아오스타 페이크폴라 아이보리_Free 출산/육아 > 유아동잡화 > 기타유아동잡화'
  • '23겨울신상)고유 바닐라워머 갈색_junior-withadult(+3200) 출산/육아 > 유아동잡화 > 기타유아동잡화'
3.0
  • '포크칩스 에펠넥타이 키즈 주니어 리본으로도가능 유아동잡화 23가을 베이지_free 출산/육아 > 유아동잡화 > 넥타이'
  • '댄디피쉬 유아 보타이 핀타입_백일 출산/육아 > 유아동잡화 > 넥타이'
  • '네오텍스 스팡클 넥타이 / 어린이넥타이 블루 출산/육아 > 유아동잡화 > 넥타이'
5.0
  • '유아동 겨울 안감 네키 넥워머 모음, 아기 목도리, 국내생산 유아 여아 남아 머플러 4.체크사각곰_레드 출산/육아 > 유아동잡화 > 목도리'
  • '아기 아동 유아 목도리 머플러 워머 쁘띠 어린이집 유치원 단체 학원 교회 브라운 베이지_2.셀프-노랑바스켓(+꽃 스티커) 출산/육아 > 유아동잡화 > 목도리'
  • '23겨울 미니로브 잼잼머플러 진핑크_FREE 출산/육아 > 유아동잡화 > 목도리'
7.0
  • '달빛상회 주니어선글라스 쥬피터 화이트&형광오렌지 유아안경 키즈선글라스 실버렌즈(FA2147 SILVER) 출산/육아 > 유아동잡화 > 선글라스'
  • '어린이 야구 스포츠 고글 선글라스 자외선X 조카선물 렌즈색상_레드(51053RED) 출산/육아 > 유아동잡화 > 선글라스'
  • '리얼쉐이드 아기 유아 아동선글라스 자외선차단 KC인증 리얼키즈쉐이드 C3.칠리(0~2세)_블랙+c716 출산/육아 > 유아동잡화 > 선글라스'
10.0
  • '유아 아동 방수 앞치마 팔토시세트 김장 요리 미술 사자_130 출산/육아 > 유아동잡화 > 앞치마/토시/두건'
  • '유아앞치마 아기 어린이집 앞치마 두건 세트 팔토시 옐로우_케빈(남아2)_한글반듯체 출산/육아 > 유아동잡화 > 앞치마/토시/두건'
  • '플리에 한정수량 세일 유아미술가운 / 전신미술가운 / 지퍼백제공 B급상품(이염불량) 색상랜덤발송 / 성별기재_전신미술가운(투피스)_S (키95cm 이하) 출산/육아 > 유아동잡화 > 앞치마/토시/두건'
12.0
  • '유아 아동 우산 초등학생 초등 어린이 투명우산 포켓몬 시나모롤 피카츄 카카오 아기상어 헬로키티_16_헬로키티 스위트_200 (753761) 출산/육아 > 유아동잡화 > 우산'
  • '핸드메이드 유아 아동 어린이 판초우의-체크 동물 캐릭터 비옷 우비 레인코트 장마 안전자켓 03. 유아동 판초우의-체크(블랙)_03. 유아동 판초우의-체크(블랙)/XL 출산/육아 > 유아동잡화 > 우산'
  • '카카오프렌즈 어린이 아동 우산 32종 모음 02 트래블패턴 30011 네오핫핑크 출산/육아 > 유아동잡화 > 우산'
14.0
  • '초등학생지갑 남아카드지갑 여아지갑 동전 남학생반지갑 0708. 초등학생지갑_07.009 부드러운 소가죽카드지갑_옐로우 출산/육아 > 유아동잡화 > 지갑'
  • '유아동 어린이 남아 여아 선물 캐릭터 추천지갑 모음 (산리오 시나모롤 피카츄 포켓몬 동전지갑 목걸이지갑 반지갑) 포켓몬 원형 목걸이지갑_블랙 출산/육아 > 유아동잡화 > 지갑'
  • '초등학생지갑 남아카드지갑 여아지갑 동전 남학생반지갑 0910. 양가죽지갑_10.코인목걸이카드지갑 _그레이 출산/육아 > 유아동잡화 > 지갑'
0.0
  • '초등 학생 책가방 아동 키즈 백팩 여아 가방 051.BB-314_블랙 출산/육아 > 유아동잡화 > 가방 > 백팩'
  • '뉴발란스 키즈 고기능 고학년 2WAY 에센셜 데일리 초등학생 뉴키온세트 백팩 책가방 시즌 미니미 백팩_NK8ADF502U 베이지 출산/육아 > 유아동잡화 > 가방 > 백팩'
  • '산리오 시나모롤 미아방지 가방 입체 배낭 251864 출산/육아 > 유아동잡화 > 가방 > 미아방지가방'
11.0
  • '아기 양말 신생아 발목 니삭스 돌 백일 양말세트 02)골지 양말_블랙_0호(90-110mm) 출산/육아 > 유아동잡화 > 양말'
  • '아동양말 아기 유아 겨울 크리스마스 양말 주니어 어린이 키즈퓨처 남아 여아 초등 W03- 드림수면 (5종)_4호 (7~8세) 출산/육아 > 유아동잡화 > 양말'
  • '아기양말 유아양말 아동양말 키즈 컬러 돌돌이 가을 겨울 미끄럼방지 세트 돌돌이 3호(L)_버건디(1켤레) 출산/육아 > 유아동잡화 > 양말'
13.0
  • '유아 어린이 아동 니트 스마트폰 터치 기모 털 겨울 장갑 주니어 초등 성인 여성 방한 2) 하트 / 아동(5~7세용)_레드 출산/육아 > 유아동잡화 > 장갑'
  • '로이 키즈울장갑 초등학생 베이지_Free 출산/육아 > 유아동잡화 > 장갑'
  • '남아장갑 아동 유아 스키장갑 초등학생 주니어 벙어리 손가락 F.오지스키장갑_36_윈터 체크 오지_M (00380) 출산/육아 > 유아동잡화 > 장갑'
16.0
  • '아기 유아 한복 머리띠 배씨 호박 헤어밴드 머리핀 여아 돌잔치 설 추석 촬영 출산/육아 > 유아동잡화 > 한복소품'
  • 'BEEU 명절 설 한복 머리핀 나비 꽃 호박 여아 여성 유아 아기 아동 어린이 성인 헤어핀 머리띠 헤어밴드 장식 장신구 출산/육아 > 유아동잡화 > 한복소품'
  • '명절 한복 머리띠,설 추석 호박 배씨 선녀 자개 땋은 댕기 헤어밴드 유아동 여아 여성 출산/육아 > 유아동잡화 > 한복소품'
17.0
  • '(흐르지않는) 유아 헤어핀 아기 머리핀 여아 똑딱 집게 논슬립 핀 어린이집 선물 B92.데이지 미니_데이지_3.5cm벨벳집게핀 출산/육아 > 유아동잡화 > 헤어액세서리 > 헤어핀'
  • '아기헤어밴드 신생아 리본 레이스 백일 돌 유아 여아 머리띠 ♡11 피오니 헤어밴드_화이트 출산/육아 > 유아동잡화 > 헤어액세서리 > 헤어밴드'
  • '밍크 벨벳 유아머리끈 여아 머리방울 아기 고무줄 12. 벨로아 방울 (한쌍)_대-인디핑크 출산/육아 > 유아동잡화 > 헤어액세서리 > 헤어끈'
8.0
  • '사계절 아기 목수건 겨울 기모 스카프빕 초등 봄 여름 거즈 턱받이 소프트스카프빕_코끼리블루 출산/육아 > 유아동잡화 > 스카프'
  • '삼각 아기스카프 유아 쁘띠 어린이집 목수건 거즈 스카프_심플 핑크 출산/육아 > 유아동잡화 > 스카프'
  • '아오스타 윈터케이프 진주_Free 출산/육아 > 유아동잡화 > 스카프'
15.0
  • '밴드 타이즈 크림아이_3-4세 출산/육아 > 유아동잡화 > 타이즈'
  • '도레미 27컬러 봄 유아동 골지 데일리 타이즈 베이비 스타킹 남아 여아 공용 브라운_3호 출산/육아 > 유아동잡화 > 타이즈'
  • '데일리베베 분리형타이즈 검정_JS ( 9-10세) 출산/육아 > 유아동잡화 > 타이즈'
4.0
  • '아기모자 유아 귀달이 방한 겨울 비니 니트 모자 B1.코튼 레옹 비니_브라운_FREE(3개월~4세) 출산/육아 > 유아동잡화 > 모자'
  • '아기모자 캡 벙거지 니트 비니 유아 아동 백일 돌 두돌 베레모 봄 여름 가을 겨울 워싱무지 JJ)m자수볼캡_퍼플_FREE 출산/육아 > 유아동잡화 > 모자'
  • '비치붐 카멜레온 리버시블 버킷햇 여성벙거지모자 키즈 아동 성인 코코아_L(59cm) 출산/육아 > 유아동잡화 > 모자'

Evaluation

Metrics

Label Accuracy
all 1.0

Uses

Direct Use for Inference

First install the SetFit library:

pip install setfit

Then you can load this model and run inference.

from setfit import SetFitModel

# Download from the 🤗 Hub
model = SetFitModel.from_pretrained("mini1013/master_cate_bc20")
# Run inference
preds = model("23겨울 색종이장갑 노랑 출산/육아 > 유아동잡화 > 장갑")

Training Details

Training Set Metrics

Training set Min Median Max
Word count 7 15.3769 28
Label Training Sample Count
0.0 70
1.0 70
2.0 70
3.0 70
4.0 70
5.0 70
6.0 70
7.0 70
8.0 70
9.0 70
10.0 70
11.0 70
12.0 70
13.0 70
14.0 70
15.0 70
16.0 20
17.0 70

Training Hyperparameters

  • batch_size: (256, 256)
  • num_epochs: (30, 30)
  • max_steps: -1
  • sampling_strategy: oversampling
  • num_iterations: 50
  • body_learning_rate: (2e-05, 1e-05)
  • head_learning_rate: 0.01
  • loss: CosineSimilarityLoss
  • distance_metric: cosine_distance
  • margin: 0.25
  • end_to_end: False
  • use_amp: False
  • warmup_proportion: 0.1
  • l2_weight: 0.01
  • seed: 42
  • eval_max_steps: -1
  • load_best_model_at_end: False

Training Results

Epoch Step Training Loss Validation Loss
0.0042 1 0.4815 -
0.2110 50 0.5015 -
0.4219 100 0.425 -
0.6329 150 0.1055 -
0.8439 200 0.035 -
1.0549 250 0.0152 -
1.2658 300 0.0077 -
1.4768 350 0.0043 -
1.6878 400 0.0018 -
1.8987 450 0.0008 -
2.1097 500 0.0009 -
2.3207 550 0.0008 -
2.5316 600 0.0006 -
2.7426 650 0.0004 -
2.9536 700 0.0002 -
3.1646 750 0.0001 -
3.3755 800 0.0001 -
3.5865 850 0.0001 -
3.7975 900 0.0001 -
4.0084 950 0.0 -
4.2194 1000 0.0 -
4.4304 1050 0.0 -
4.6414 1100 0.0 -
4.8523 1150 0.0 -
5.0633 1200 0.0 -
5.2743 1250 0.0 -
5.4852 1300 0.0 -
5.6962 1350 0.0 -
5.9072 1400 0.0 -
6.1181 1450 0.0 -
6.3291 1500 0.0 -
6.5401 1550 0.0 -
6.7511 1600 0.0 -
6.9620 1650 0.0 -
7.1730 1700 0.0 -
7.3840 1750 0.0 -
7.5949 1800 0.0 -
7.8059 1850 0.0 -
8.0169 1900 0.0 -
8.2278 1950 0.0 -
8.4388 2000 0.0 -
8.6498 2050 0.0 -
8.8608 2100 0.0 -
9.0717 2150 0.0 -
9.2827 2200 0.0 -
9.4937 2250 0.0 -
9.7046 2300 0.0 -
9.9156 2350 0.0 -
10.1266 2400 0.0 -
10.3376 2450 0.0 -
10.5485 2500 0.0 -
10.7595 2550 0.0 -
10.9705 2600 0.0 -
11.1814 2650 0.0 -
11.3924 2700 0.0 -
11.6034 2750 0.0 -
11.8143 2800 0.0 -
12.0253 2850 0.0 -
12.2363 2900 0.0 -
12.4473 2950 0.0 -
12.6582 3000 0.0 -
12.8692 3050 0.0 -
13.0802 3100 0.0 -
13.2911 3150 0.0 -
13.5021 3200 0.0 -
13.7131 3250 0.0 -
13.9241 3300 0.0 -
14.1350 3350 0.0 -
14.3460 3400 0.0 -
14.5570 3450 0.0 -
14.7679 3500 0.0 -
14.9789 3550 0.0 -
15.1899 3600 0.0 -
15.4008 3650 0.0 -
15.6118 3700 0.0 -
15.8228 3750 0.0 -
16.0338 3800 0.0 -
16.2447 3850 0.0 -
16.4557 3900 0.0 -
16.6667 3950 0.0 -
16.8776 4000 0.0 -
17.0886 4050 0.0 -
17.2996 4100 0.0 -
17.5105 4150 0.0 -
17.7215 4200 0.0 -
17.9325 4250 0.0 -
18.1435 4300 0.0 -
18.3544 4350 0.0 -
18.5654 4400 0.0 -
18.7764 4450 0.0 -
18.9873 4500 0.0 -
19.1983 4550 0.0 -
19.4093 4600 0.0 -
19.6203 4650 0.0 -
19.8312 4700 0.0 -
20.0422 4750 0.0 -
20.2532 4800 0.0 -
20.4641 4850 0.0 -
20.6751 4900 0.0 -
20.8861 4950 0.0 -
21.0970 5000 0.0 -
21.3080 5050 0.0 -
21.5190 5100 0.0 -
21.7300 5150 0.0 -
21.9409 5200 0.0 -
22.1519 5250 0.0 -
22.3629 5300 0.0 -
22.5738 5350 0.0 -
22.7848 5400 0.0 -
22.9958 5450 0.0 -
23.2068 5500 0.0 -
23.4177 5550 0.0 -
23.6287 5600 0.0 -
23.8397 5650 0.0 -
24.0506 5700 0.0 -
24.2616 5750 0.0 -
24.4726 5800 0.0 -
24.6835 5850 0.0 -
24.8945 5900 0.0 -
25.1055 5950 0.0 -
25.3165 6000 0.0 -
25.5274 6050 0.0 -
25.7384 6100 0.0 -
25.9494 6150 0.0 -
26.1603 6200 0.0 -
26.3713 6250 0.0 -
26.5823 6300 0.0 -
26.7932 6350 0.0 -
27.0042 6400 0.0 -
27.2152 6450 0.0 -
27.4262 6500 0.0 -
27.6371 6550 0.0 -
27.8481 6600 0.0 -
28.0591 6650 0.0 -
28.2700 6700 0.0 -
28.4810 6750 0.0 -
28.6920 6800 0.0 -
28.9030 6850 0.0 -
29.1139 6900 0.0 -
29.3249 6950 0.0 -
29.5359 7000 0.0 -
29.7468 7050 0.0 -
29.9578 7100 0.0 -

Framework Versions

  • Python: 3.10.12
  • SetFit: 1.1.0
  • Sentence Transformers: 3.3.1
  • Transformers: 4.44.2
  • PyTorch: 2.2.0a0+81ea7a4
  • Datasets: 3.2.0
  • Tokenizers: 0.19.1

Citation

BibTeX

@article{https://doi.org/10.48550/arxiv.2209.11055,
    doi = {10.48550/ARXIV.2209.11055},
    url = {https://arxiv.org/abs/2209.11055},
    author = {Tunstall, Lewis and Reimers, Nils and Jo, Unso Eun Seo and Bates, Luke and Korat, Daniel and Wasserblat, Moshe and Pereg, Oren},
    keywords = {Computation and Language (cs.CL), FOS: Computer and information sciences, FOS: Computer and information sciences},
    title = {Efficient Few-Shot Learning Without Prompts},
    publisher = {arXiv},
    year = {2022},
    copyright = {Creative Commons Attribution 4.0 International}
}
Downloads last month
37
Safetensors
Model size
111M params
Tensor type
F32
·
Inference Providers NEW
This model is not currently available via any of the supported third-party Inference Providers, and the model is not deployed on the HF Inference API.

Model tree for mini1013/master_cate_bc20

Base model

klue/roberta-base
Finetuned
(213)
this model

Evaluation results