grapeV-ai/Muse-Glimmer-30B-GGUF overview
What is this? Metaのオープンモデルが帰ってきた！ Muse Glimmer 30B https://huggingface.co/meta models/Muse Glimmer 30B をGGUFフォーマットに変換したものです。 imatrix dataset 日本語能力を重視し、日本語が多量に含…
Runs locally from ~12.8 MB disk (4 GB VRAM class GPUs with llama.cpp / guIDE).
Repository Files & Downloads
| File | Type | Quantization | Size | Link |
|---|---|---|---|---|
| Muse-Glimmer-30B-BF16.gguf | GGUF | BF16 | 51.90 GB | Download |
| Muse-Glimmer-30B-IQ4_XS.gguf | GGUF | IQ4_XS | 14.17 GB | Download |
| Muse-Glimmer-30B-Q4_K_M.gguf | GGUF | Q4_K_M | 15.77 GB | Download |
| Muse-Glimmer-30B-Q5_K_M.gguf | GGUF | Q5_K_M | 18.45 GB | Download |
| Muse-Glimmer-30B-Q6_K.gguf | GGUF | Q6_K | 21.30 GB | Download |
| imatrix.gguf | GGUF | GGUF | 12.8 MB | Download |
| mmproj-Muse-Glimmer-30b-BF16.gguf | GGUF | BF16 | 3.58 GB | Download |
| mmproj-Muse-Glimmer-30b-Q8_0.gguf | GGUF | Q8_0 | 1.91 GB | Download |
Model Details
Model README
---
license: apache-2.0
---
What is this?
Metaのオープンモデルが帰ってきた！Muse-Glimmer-30BをGGUFフォーマットに変換したものです。
imatrix dataset
日本語能力を重視し、日本語が多量に含まれるTFMC/imatrix-dataset-for-japanese-llmデータセットを使用しました。
Quants
各クオンツ・推論努力とそのベンチマークスコア（API版Gemma4 31B採点によるElyza_tasks 100）をまとめておきます。
|クオンツ|スコア|コメント|
|---|---|---|
|Q6_K|4.63||
|Q5_K_M|4.64||
|Q4_K_M|4.57||
|IQ4_XS|4.63||
|公式kquant-dynamic<br>（Q5_K_M相当）|4.59||
|公式kquant-17gb<br>（Q4_K_M相当）|4.61||
||||
|reasoning_strength: low|4.54||
|reasoning_strength: medium|4.62||
|reasoning_strength: xhigh|4.57||
Note
-mm mmproj-Muse-Glimmer-30b-BF16.ggufでビジョンエンコーダーをロードし、Vision対応モデルとして使用することができます。
推論強度は（Reasoning strength）はlow / medium / high / xhighに対応しており、デフォルトはhighです。<br>
変更方法は次の3通りとなります。
- システムプロンプトに
Reasoning strength: <value>と書き込む - APIを叩く際、openAI Python SDKの引数に
extra_body={"chat_template_kwargs":{"reasoning_strength": "xhigh"}},を追加 - llama.cppの起動時に以下の引数を追加
--chat-template-kwargs '{\"reasoning_strength\":\"xhigh\"}'License
Apache 2.0
Developer
Meta Superintelligence Lab
Run grapeV-ai/Muse-Glimmer-30B-GGUF with guIDE
Download guIDE — the AI-native code editor with local LLM inference and 69 built-in tools.
Source: Hugging Face · Compare models