lianghsun
/

Llama-3.2-Taiwan-3B-Instruct-GGUF

Text Generation

Inference Endpoints

Model card Files Files and versions Community

lianghsun commited on 9 days ago

Commit

3264f88

·

verified ·

1 Parent(s): 761558b

Update README.md

Files changed (1) hide show

README.md +3 -3

README.md CHANGED Viewed

@@ -48,9 +48,9 @@ library_name: llama.cpp
 **已知問題：** 量化後的模型會有機率輸出全部簡體中文的情況，此問題目前尚未深入研究原因。
-## How to use in Ollama
-根據 [Issue：ollama 直接run gguf會跑出文不對題](https://discord.com/channels/1310544431983759450/1327811803085799534) 討論串， [@k1dave6412](https://huggingface.co/k1dave6412) 查出原因是要調整預設的對話模板（chat template），故我們在 repo 內有放置一個 `template` 的檔案，但如果你要客制你的對話模板，請照著 Ollama 的 [Template](https://github.com/ollama/ollama/blob/main/docs/modelfile.md) 設定。
 ## Model Card Authors

 **已知問題：** 量化後的模型會有機率輸出全部簡體中文的情況，此問題目前尚未深入研究原因。
+### Issuses
+#### How to use in Ollama
+根據 [Issue：ollama 直接run gguf會跑出文不對題](https://discord.com/channels/1310544431983759450/1327811803085799534) 討論串， [@k1dave6412](https://huggingface.co/k1dave6412) 查出原因是要調整預設的對話模板（chat template），故我們在 repo 內有放置一個 `template` 的檔案來修正這個問題，但如果你要客制你的對話模板，請照著 Ollama 的 [Template](https://github.com/ollama/ollama/blob/main/docs/modelfile.md) 設定。
 ## Model Card Authors