grapeV-ai/gpt-oss-20b-gguf overview
What is this? ChatGPTの登場以来初のOpenAI公式のオープンソースGPTモデル gpt oss 20b https://huggingface.co/openai/gpt oss 20b をGGUFフォーマットに変換したものです。 imatrix dataset 日本語能力を重視し、日本語が多量…
Runs locally from ~11.28 GB disk (12 GB VRAM class GPUs with llama.cpp / guIDE).
Repository Files & Downloads
Model Details
Model README
---
license: apache-2.0
---
What is this?
ChatGPTの登場以来初のOpenAI公式のオープンソースGPTモデルgpt-oss-20bをGGUFフォーマットに変換したものです。
imatrix dataset
日本語能力を重視し、日本語が多量に含まれるTFMC/imatrix-dataset-for-japanese-llmデータセットを使用しました。
Quants
各クオンツ・推論努力とそのベンチマークスコア（API版Gemma3 27B採点によるElyza_tasks 100）をまとめておきます。
|クオンツ|スコア|コメント|
|---|---|---|
|BF16|4.45||
|Q8_0|4.35||
|MXFP4_MOE|4.46||
||||
|reasoning_effort: low|4.21|非推奨|
|reasoning_effort: high|4.45|非推奨|
License
Apache 2.0ライセンスおよびUSAGE_POLICYを守ってご利用ください。
Developer
OpenAI
Run grapeV-ai/gpt-oss-20b-gguf with guIDE
Download guIDE — the AI-native code editor with local LLM inference and 69 built-in tools.
Source: Hugging Face · Compare models