GraySoft
Projects Models Compare Cloud benchmarks FAQ Download guIDE →
Model Intelligence Sheet

xCloudinfo/gpt-oss-20b-Code-xCloud-GGUF overview

gpt oss 20b Code xCloud GGUF 云碩科技 · xCloudinfo · 系列: 程式 · Code 以 openai/gpt oss 20b (21B 總參 / 3.6B 活躍 / MoE / MXFP4 / harmony 推理格式)為基底 的 程式碼能力強化 reasoning 模型。以…

ggufgpt-osscodemoemxfp4reasoningxcloudinfotext-generationenzhbase_model:openai/gpt-oss-20bbase_model:quantized:openai/gpt-oss-20blicense:apache-2.0endpoints_compatibleregion:usconversational

Runs locally from ~12.85 GB disk (16 GB VRAM class GPUs with llama.cpp / guIDE).

Downloads
0
Likes
0
Pipeline
text-generation

Repository Files & Downloads

1 GGUF files detected
Direct downloads for local inference
FileTypeQuantizationSizeLink
gpt-oss-20b-code.ggufGGUFGGUF12.85 GBDownload

Model Details

Model IDxCloudinfo/gpt-oss-20b-Code-xCloud-GGUF
AuthorxCloudinfo
Pipelinetext-generation
Licenseapache-2.0
Base modelopenai/gpt-oss-20b
Last modified2026-06-25T08:06:46.000Z

Model README

---

license: apache-2.0

base_model: openai/gpt-oss-20b

language:

  • en
  • zh

tags:

  • gpt-oss
  • code
  • moe
  • mxfp4
  • reasoning
  • xcloudinfo
  • gguf

pipeline_tag: text-generation

---

gpt-oss-20b-Code-xCloud-GGUF

云碩科技 · xCloudinfo · 系列:程式 · Code

openai/gpt-oss-20b(21B 總參 / 3.6B 活躍 / MoE / MXFP4 / harmony 推理格式)為基底 的程式碼能力強化 reasoning 模型。以執行驗證蒸餾的程式碼指令資料做 LoRA 微調(LoRA 作用於 attention,MoE 專家維持原生 MXFP4),保留 gpt-oss 原生 reasoning 能力。(GGUF,MXFP4,約 14GB)

功能:寫程式——理解需求、產生可執行的 Python/程式碼解法,並保留逐步推理(reasoning)。

厲害在哪(據實、不灌水)

  • 訓練料每一筆都經「執行驗證」:解法在沙箱跑過隱藏測試、通過才收(rejection sampling)——不是網路爬來的程式碼,每一筆都證明會動。這是多數蒸餾模型給不出的資料品質保證。
  • 保留通用 coding 實力:HumanEval pass@1 87.2%(第三方題庫、greedy、164 題)——對 21B 總參 / 3.6B 活躍的開源模型屬頂規檔次。
  • 整個家族的「碼力底層」TAIDE-zhTW(繁中)Uncensored(無審查) 兩顆都疊在這顆之上。
  • 輕量好部署:MXFP4、約 14GB,單張中階 GPU(甚至 CPU)即可本地、可控、離線部署,Apache-2.0 商用友善。

> 定位是「可控、可驗證、自架的實用 coder」,不是去刷贏前沿封閉模型;價值在資料每筆可執行、行為可控、貼合自家技術堆疊。

做法

  • 資料:程式碼指令資料每筆解法都先在沙箱跑過隱藏測試、通過才收
  • 方法:teacher 蒸餾 + 執行驗證閘門(rejection sampling)→ LoRA SFT。

用法(gpt-oss 是 reasoning 模型,務必加 --jinja 套用內建 harmony 模板)

llama.cpp

hf download xCloudinfo/gpt-oss-20b-Code-xCloud-GGUF gpt-oss-20b-code.gguf --local-dir .
llama-server -m gpt-oss-20b-code.gguf --jinja -ngl 999 -c 8192 --host 0.0.0.0 --port 8080

Ollama

printf 'FROM ./gpt-oss-20b-code.gguf\nPARAMETER num_ctx 8192\n' > Modelfile
ollama create gpt-oss-20b-code-xcloud -f Modelfile && ollama run gpt-oss-20b-code-xcloud "用 Python 寫一個 LRU cache,附簡短說明。"

> 模型會先思考再輸出最終答案,請給足回覆長度。完整 safetensors 版見對應 repo。

授權與來源聲明

---

由 云碩科技 xCloudinfo 於自有 AI 算力資源池製作;資料留在本地、流程可重現。

Run xCloudinfo/gpt-oss-20b-Code-xCloud-GGUF with guIDE

Download guIDE — the AI-native code editor with local LLM inference and 69 built-in tools.

Download guIDE → · Browse 524k+ models · Compare models

Source: Hugging Face · Compare models