jiangchengchengNLP
commited on
Commit
•
d449078
1
Parent(s):
8d8d65b
Update README.md
Browse files
README.md
CHANGED
@@ -6,7 +6,7 @@ license: apache-2.0
|
|
6 |
|
7 |
简介
|
8 |
|
9 |
-
本项目基于华佗 GPT2-7B 模型,使用 transformers 库中的 bitsandbytes 方法进行了 int8 量化,并将量化后的模型上传到了 Hugging Face 模型库。量化后的模型大小约为 8GB,原模型大小为
|
10 |
|
11 |
模型详情
|
12 |
|
|
|
6 |
|
7 |
简介
|
8 |
|
9 |
+
本项目基于华佗 GPT2-7B 模型,使用 transformers 库中的 bitsandbytes 方法进行了 int8 量化,并将量化后的模型上传到了 Hugging Face 模型库。量化后的模型大小约为 8GB,原模型大小为 14GB。该模型可以被 transformers 和 vllm 库加载,并配备了对应的 tokenizer 模型文件。
|
10 |
|
11 |
模型详情
|
12 |
|