---

license: apache-2.0

base_model: xCloudinfo/Qwen3.8-27B-Uncensored-xCloud

base_model_relation: quantized

language:

• zh
• en

pipeline_tag: image-text-to-text

library_name: llama.cpp

tags:

• gguf
• uncensored
• abliterated
• qwen3.5
• multimodal
• vision
• mmproj
• imatrix
• xCloudinfo

---

Qwen3.8-27B-Uncensored-xCloud — GGUF（含視覺 mmproj）

xCloudinfo/Qwen3.8-27B-Uncensored-xCloud

的 GGUF 量化版，含視覺投影器（mmproj），可圖文對話。由 云碩科技（xCloudinfo） 自行轉檔量化。

底模去除拒絕方向（abliteration）的方法與行為，見上游 safetensors 版說明。

版本對照

| 檔案 | 位元 | 大小 | 用途 |

|---|---|---|---|

| ...-Q8_0.gguf | 8-bit | ~29 GB | 近乎無損，品質最高 |

| ...-Q6_K.gguf | 6-bit | ~22 GB | 高品質 |

| ...-Q5_K_M.gguf | 5-bit | ~20 GB | 品質與體積的均衡 |

| ...-Q4_K_M.gguf | 4-bit | ~17 GB | agent 調度主力，單張 24 GB 卡即可 |

| ...-IQ4_XS.gguf | 4-bit | ~15 GB | 更小的 4-bit（imatrix） |

| ...-IQ2_M.gguf | 2-bit | ~10 GB | 低 VRAM／邊緣（imatrix，品質較低） |

| ...-mmproj.gguf | f16 | ~0.9 GB | 視覺投影器（vision） |

| ...-imatrix.dat | — | — | 重要度矩陣，供 IQ 系列量化 |

用法（llama.cpp，含圖文）

llama-server -m Qwen3.8-27B-Uncensored-xCloud-Q4_K_M.gguf \
  --mmproj Qwen3.8-27B-Uncensored-xCloud-mmproj.gguf -c 4096 -ngl 99

> 純文字可省略 --mmproj。

修正說明（本次重轉）

本版以母版 safetensors + 最新 llama.cpp 重新轉檔：

• 修正舊版轉換遺漏張量的問題（舊 GGUF 缺 blk.40.attn_norm.weight 等 norm，載入即失敗）；本版全 64 層張量完整，已實測 Q6_K 正常載入與生成。
• 補上 mmproj 視覺投影器，恢復圖文對話能力（舊版遺漏）。
• MTP（多 token 預測）草稿頭於低位元量化強制高位元以維持可用。

授權與來源

• 基底 Qwen3.5 系列；本模型於 云碩科技 xCloud 算力中心處理與量化。
• 僅供合法、授權範圍內使用；使用者須自行加上安全防護與輸出審查，並對用途與後果負完全責任，不得用於違法或有害用途。

---

由 云碩科技 xCloudinfo 於自有 AI 算力資源池製作。