GraySoft
Download guIDE →
Projects Models Compare Cloud benchmarks FAQ Download guIDE →
Model Intelligence Sheet

mmnga-o/Kimi-K3-REAP50-UD-gguf overview

Kimi K3 REAP50 UD GGUF Kimi K3の各MoE層から、REAP saliencyに基づいて896 expertsのうち448 expertsを残した実験的GGUFです。 Expert選択は日本語チャット、日本語コード生成、日本語推論、ツール使用を中心にcalibrationしています。これはフ…

ggufllama.cppkimi-k3moereapexpert-pruningimatrixtext-generationjabase_model:unsloth/Kimi-K3-GGUFbase_model:quantized:unsloth/Kimi-K3-GGUFlicense:otherendpoints_compatibleregion:usconversational

Runs locally from ~6.6 MB disk (4 GB VRAM class GPUs with llama.cpp / guIDE).

Downloads
0
Likes
0
Pipeline
text-generation
Author
mmnga-o

Repository Files & Downloads

48 GGUF files detected
Direct downloads for local inference
FileTypeQuantizationSizeLink
UD-IQ1_M/Kimi-K3-UD-IQ1_M-00001-of-00015.ggufGGUFIQ1_M6.6 MBDownload
UD-IQ1_M/Kimi-K3-UD-IQ1_M-00002-of-00015.ggufGGUFIQ1_M26.13 GBDownload
UD-IQ1_M/Kimi-K3-UD-IQ1_M-00003-of-00015.ggufGGUFIQ1_M24.99 GBDownload
UD-IQ1_M/Kimi-K3-UD-IQ1_M-00004-of-00015.ggufGGUFIQ1_M25.25 GBDownload
UD-IQ1_M/Kimi-K3-UD-IQ1_M-00005-of-00015.ggufGGUFIQ1_M24.21 GBDownload
UD-IQ1_M/Kimi-K3-UD-IQ1_M-00006-of-00015.ggufGGUFIQ1_M25.25 GBDownload
UD-IQ1_M/Kimi-K3-UD-IQ1_M-00007-of-00015.ggufGGUFIQ1_M25.09 GBDownload
UD-IQ1_M/Kimi-K3-UD-IQ1_M-00008-of-00015.ggufGGUFIQ1_M25.21 GBDownload
UD-IQ1_M/Kimi-K3-UD-IQ1_M-00009-of-00015.ggufGGUFIQ1_M24.44 GBDownload
UD-IQ1_M/Kimi-K3-UD-IQ1_M-00010-of-00015.ggufGGUFIQ1_M24.97 GBDownload
UD-IQ1_M/Kimi-K3-UD-IQ1_M-00011-of-00015.ggufGGUFIQ1_M25.25 GBDownload
UD-IQ1_M/Kimi-K3-UD-IQ1_M-00012-of-00015.ggufGGUFIQ1_M24.76 GBDownload
UD-IQ1_M/Kimi-K3-UD-IQ1_M-00013-of-00015.ggufGGUFIQ1_M24.59 GBDownload
UD-IQ1_M/Kimi-K3-UD-IQ1_M-00014-of-00015.ggufGGUFIQ1_M24.25 GBDownload
UD-IQ1_M/Kimi-K3-UD-IQ1_M-00015-of-00015.ggufGGUFIQ1_M5.63 GBDownload
UD-IQ1_S/Kimi-K3-UD-IQ1_S-00001-of-00014.ggufGGUFIQ1_S6.6 MBDownload
UD-IQ1_S/Kimi-K3-UD-IQ1_S-00002-of-00014.ggufGGUFIQ1_S26.70 GBDownload
UD-IQ1_S/Kimi-K3-UD-IQ1_S-00003-of-00014.ggufGGUFIQ1_S24.90 GBDownload
UD-IQ1_S/Kimi-K3-UD-IQ1_S-00004-of-00014.ggufGGUFIQ1_S25.19 GBDownload
UD-IQ1_S/Kimi-K3-UD-IQ1_S-00005-of-00014.ggufGGUFIQ1_S25.25 GBDownload
UD-IQ1_S/Kimi-K3-UD-IQ1_S-00006-of-00014.ggufGGUFIQ1_S24.93 GBDownload
UD-IQ1_S/Kimi-K3-UD-IQ1_S-00007-of-00014.ggufGGUFIQ1_S25.19 GBDownload
UD-IQ1_S/Kimi-K3-UD-IQ1_S-00008-of-00014.ggufGGUFIQ1_S25.25 GBDownload
UD-IQ1_S/Kimi-K3-UD-IQ1_S-00009-of-00014.ggufGGUFIQ1_S24.81 GBDownload
UD-IQ1_S/Kimi-K3-UD-IQ1_S-00010-of-00014.ggufGGUFIQ1_S25.19 GBDownload
UD-IQ1_S/Kimi-K3-UD-IQ1_S-00011-of-00014.ggufGGUFIQ1_S25.25 GBDownload
UD-IQ1_S/Kimi-K3-UD-IQ1_S-00012-of-00014.ggufGGUFIQ1_S24.81 GBDownload
UD-IQ1_S/Kimi-K3-UD-IQ1_S-00013-of-00014.ggufGGUFIQ1_S25.07 GBDownload
UD-IQ1_S/Kimi-K3-UD-IQ1_S-00014-of-00014.ggufGGUFIQ1_S1.94 GBDownload
UD-Q2_K_XL/Kimi-K3-UD-Q2_K_XL-00001-of-00019.ggufGGUFQ2_K_XL6.6 MBDownload
UD-Q2_K_XL/Kimi-K3-UD-Q2_K_XL-00002-of-00019.ggufGGUFQ2_K_XL26.54 GBDownload
UD-Q2_K_XL/Kimi-K3-UD-Q2_K_XL-00003-of-00019.ggufGGUFQ2_K_XL24.31 GBDownload
UD-Q2_K_XL/Kimi-K3-UD-Q2_K_XL-00004-of-00019.ggufGGUFQ2_K_XL24.65 GBDownload
UD-Q2_K_XL/Kimi-K3-UD-Q2_K_XL-00005-of-00019.ggufGGUFQ2_K_XL24.69 GBDownload
UD-Q2_K_XL/Kimi-K3-UD-Q2_K_XL-00006-of-00019.ggufGGUFQ2_K_XL23.62 GBDownload
UD-Q2_K_XL/Kimi-K3-UD-Q2_K_XL-00007-of-00019.ggufGGUFQ2_K_XL24.59 GBDownload
UD-Q2_K_XL/Kimi-K3-UD-Q2_K_XL-00008-of-00019.ggufGGUFQ2_K_XL23.74 GBDownload
UD-Q2_K_XL/Kimi-K3-UD-Q2_K_XL-00009-of-00019.ggufGGUFQ2_K_XL24.32 GBDownload
UD-Q2_K_XL/Kimi-K3-UD-Q2_K_XL-00010-of-00019.ggufGGUFQ2_K_XL24.48 GBDownload
UD-Q2_K_XL/Kimi-K3-UD-Q2_K_XL-00011-of-00019.ggufGGUFQ2_K_XL24.68 GBDownload
UD-Q2_K_XL/Kimi-K3-UD-Q2_K_XL-00012-of-00019.ggufGGUFQ2_K_XL24.32 GBDownload
UD-Q2_K_XL/Kimi-K3-UD-Q2_K_XL-00013-of-00019.ggufGGUFQ2_K_XL24.83 GBDownload
UD-Q2_K_XL/Kimi-K3-UD-Q2_K_XL-00014-of-00019.ggufGGUFQ2_K_XL24.34 GBDownload
UD-Q2_K_XL/Kimi-K3-UD-Q2_K_XL-00015-of-00019.ggufGGUFQ2_K_XL24.75 GBDownload
UD-Q2_K_XL/Kimi-K3-UD-Q2_K_XL-00016-of-00019.ggufGGUFQ2_K_XL24.48 GBDownload
UD-Q2_K_XL/Kimi-K3-UD-Q2_K_XL-00017-of-00019.ggufGGUFQ2_K_XL24.68 GBDownload
UD-Q2_K_XL/Kimi-K3-UD-Q2_K_XL-00018-of-00019.ggufGGUFQ2_K_XL24.32 GBDownload
UD-Q2_K_XL/Kimi-K3-UD-Q2_K_XL-00019-of-00019.ggufGGUFQ2_K_XL11.57 GBDownload

Model Details

Model IDmmnga-o/Kimi-K3-REAP50-UD-gguf
Authormmnga-o
Pipelinetext-generation
Licenseother
Base modelunsloth/Kimi-K3-GGUF
Last modified2026-08-05T20:24:47.000Z

Model README

---

license: other

license_name: kimi-k3

license_link: https://huggingface.co/moonshotai/Kimi-K3/blob/main/LICENSE

base_model: unsloth/Kimi-K3-GGUF

tags:

  • gguf
  • llama.cpp
  • kimi-k3
  • moe
  • reap
  • expert-pruning
  • imatrix

pipeline_tag: text-generation

language:

  • ja

---

Kimi-K3-REAP50-UD-GGUF

Kimi-K3の各MoE層から、REAP saliencyに基づいて896 expertsのうち448 expertsを残した実験的GGUFです。

Expert選択は日本語チャット、日本語コード生成、日本語推論、ツール使用を中心にcalibrationしています。これはファインチューニングではなく、Unsloth版Kimi-K3 GGUFから選択したexpertを再量子化せずに抽出したものです。

> [!WARNING]

> これは実験的なexpert-prunedモデルです。元モデルと同等の品質は保証されません。特にcalibrationに含まれない言語、知識、長文、特殊なtool callでは、必要なexpertを削除している可能性があります。

Files

| Quant | Shards | Original | REAP50 | Saved |

|---|---:|---:|---:|---:|

| UD-IQ1_S | 14 | 594.00 GB | 326.92 GB | 267.07 GB (45.0%) |

| UD-IQ1_M | 15 | 648.87 GB | 354.36 GB | 294.51 GB (45.4%) |

| UD-Q2_K_XL | 19 | 861.28 GB | 460.56 GB | 400.71 GB (46.5%) |

Run mmnga-o/Kimi-K3-REAP50-UD-gguf with guIDE

Download guIDE — the AI-native code editor with local LLM inference and 69 built-in tools.

Download guIDE → · Browse 524k+ models · Compare models

Source: Hugging Face · Compare models