GraySoft
Projects Models Compare Cloud benchmarks FAQ Download guIDE →
Model Intelligence Sheet

xCloudinfo/gpt-oss-20b-TAIDE-zhTW-GGUF overview

gpt oss 20b TAIDE zhTW GGUF 云碩科技 · xCloudinfo · 系列: 繁中在地化 · TAIDE zh TW 以 openai/gpt oss 20b (21B 總參 / 3.6B 活躍 / MoE / MXFP4 / harmony 推理格式)為基底 的 繁體中文(台灣) reas…

ggufgpt-osstaidetraditional-chinesezh-twmoemxfp4reasoningxcloudinfotext-generationenzhbase_model:openai/gpt-oss-20bbase_model:quantized:openai/gpt-oss-20blicense:apache-2.0endpoints_compatibleregion:usconversational

Runs locally from ~12.85 GB disk (16 GB VRAM class GPUs with llama.cpp / guIDE).

Downloads
338
Likes
0
Pipeline
text-generation

Repository Files & Downloads

1 GGUF files detected
Direct downloads for local inference
FileTypeQuantizationSizeLink
gpt-oss-20b-zhtw.ggufGGUFGGUF12.85 GBDownload

Model Details

Model IDxCloudinfo/gpt-oss-20b-TAIDE-zhTW-GGUF
AuthorxCloudinfo
Pipelinetext-generation
Licenseapache-2.0
Base modelopenai/gpt-oss-20b
Last modified2026-06-27T16:56:46.000Z

Model README

---

license: apache-2.0

base_model: openai/gpt-oss-20b

language:

  • en
  • zh

tags:

  • gpt-oss
  • taide
  • traditional-chinese
  • zh-tw
  • moe
  • mxfp4
  • reasoning
  • xcloudinfo
  • gguf

pipeline_tag: text-generation

---

gpt-oss-20b-TAIDE-zhTW-GGUF

云碩科技 · xCloudinfo · 系列:繁中在地化 · TAIDE zh-TW

openai/gpt-oss-20b(21B 總參 / 3.6B 活躍 / MoE / MXFP4 / harmony 推理格式)為基底 的繁體中文(台灣) reasoning 模型。在程式能力底層之上,用 TAIDE 蒸餾的台灣繁中 self-instruct 指令資料做 LoRA 微調,直接以道地台灣繁中作答。(GGUF,MXFP4,約 14GB)

功能:繁體中文(台灣)問答與寫作——以道地台灣用語回應一般知識、文案、客服、教學等任務。

厲害在哪

  • 道地台灣繁中:用字採台灣慣用(臺灣、臺語、客家話),語氣在地,不是簡轉繁。
  • 疊在程式底層上:以 Code-xCloud 為底再學繁中,保留 reasoning 與 coding 能力。
  • 輕量好部署:MXFP4、約 14GB,本地/離線可跑,資料不外流。

做法

  • 資料:以 TAIDE 蒸餾的台灣繁中 self-instruct 指令資料訓練。

評測成績(繁中・台灣在地知識)

經繁體中文(台灣)知識常識與作答誠實度自動評測:

| 指標 | 成績 |

|---|---|

| 台灣知識常識 MCQ | 86.4%(22 題答對 19) |

| 作答誠實度 probe(不確定時不硬掰、自報不知) | 60%(5 題對 3) |

| 綜合分 | 0.73 |

  • 滿分類別:交通、制度、地理、常識、氣候、觀光、飲食。
  • 待加強:文化(0/1)、節慶(1/2)、用語(3/4)—— 為後續資料補強的明確方向。
  • 作答誠實度相較純程式版本(40%)提升至 60%:更傾向據實作答、不確定時坦承而非編造。

用法(gpt-oss 是 reasoning 模型,務必加 --jinja 套用內建 harmony 模板)

llama.cpp

hf download xCloudinfo/gpt-oss-20b-TAIDE-zhTW-GGUF gpt-oss-20b-zhtw.gguf --local-dir .
llama-server -m gpt-oss-20b-zhtw.gguf --jinja -ngl 999 -c 8192 --host 0.0.0.0 --port 8080

Ollama

printf 'FROM ./gpt-oss-20b-zhtw.gguf\nPARAMETER num_ctx 8192\n' > Modelfile
ollama create gpt-oss-20b-taide-zhtw -f Modelfile && ollama run gpt-oss-20b-taide-zhtw "用一段話介紹台灣,並說說台灣最有名的小吃。"

> 模型會先思考再輸出最終答案,請給足回覆長度。完整 safetensors 版見對應 repo。

授權與來源聲明

  • 基底openai/gpt-oss-20bApache-2.0
  • TAIDE 衍生:訓練資料以 TAIDE 模型蒸餾;使用/重製/改作/散布須遵守 TAIDE 模型授權條款 並保留本聲明。
  • 不得用於軍事或非法用途;不得聲稱代表 TAIDE 或國家實驗研究院;須遵守中華民國法律與適用之 EU AI Act。

---

由 云碩科技 xCloudinfo 於自有 AI 算力資源池製作;資料留在本地、流程可重現。

Run xCloudinfo/gpt-oss-20b-TAIDE-zhTW-GGUF with guIDE

Download guIDE — the AI-native code editor with local LLM inference and 69 built-in tools.

Download guIDE → · Browse 524k+ models · Compare models

Source: Hugging Face · Compare models