grapeV-ai/gpt-oss-120b-gguf overview
What is this? ChatGPTの登場以来初のOpenAI公式のオープンソースGPTモデル gpt oss 120b https://huggingface.co/openai/gpt oss 120b をGGUFフォーマットに変換したものです。 imatrix dataset 日本語能力を重視し、日本語が…
Runs locally from ~154.1 MB disk (4 GB VRAM class GPUs with llama.cpp / guIDE).
Repository Files & Downloads
Model Details
Model README
---
license: apache-2.0
---
What is this?
ChatGPTの登場以来初のOpenAI公式のオープンソースGPTモデルgpt-oss-120bをGGUFフォーマットに変換したものです。
imatrix dataset
日本語能力を重視し、日本語が多量に含まれるTFMC/imatrix-dataset-for-japanese-llmデータセットを使用しました。
Quants
各クオンツ・推論努力とそのベンチマークスコア（API版Gemma3 27B採点によるElyza_tasks 100）をまとめておきます。
|クオンツ|スコア|コメント|
|---|---|---|
|BF16|4.53||
|Q8_0|4.58||
|MXFP4_MOE|4.65||
||||
|reasoning_effort: low|4.34|非推奨|
|reasoning_effort: high|4.59|非推奨|
License
Apache 2.0ライセンスおよびUSAGE_POLICYを守ってご利用ください。
Developer
OpenAI
Run grapeV-ai/gpt-oss-120b-gguf with guIDE
Download guIDE — the AI-native code editor with local LLM inference and 69 built-in tools.
Source: Hugging Face · Compare models