GraySoft
Projects Models Compare Cloud benchmarks FAQ Download guIDE →
Model Intelligence Sheet

tokimoa/jp-jitsumu-calc-qwen3-4b-GGUF overview

jp jitsumu calc qwen3 4b GGUF jp jitsumu calc qwen3 4b https://huggingface.co/tokimoa/jp jitsumu calc qwen3 4b (日本語業務の多段計算特化・期日計算/複数書類突合)のGGUF版です。llama.cppでWin…

ggufllama.cppjapanesebusinessqwen3jabase_model:Qwen/Qwen3-4B-Instruct-2507base_model:quantized:Qwen/Qwen3-4B-Instruct-2507license:apache-2.0endpoints_compatibleregion:usconversational

Runs locally from ~2.33 GB disk (4 GB VRAM class GPUs with llama.cpp / guIDE).

Downloads
0
Likes
0
Pipeline
Author

Repository Files & Downloads

3 GGUF files detected
Direct downloads for local inference
FileTypeQuantizationSizeLink
jp-jitsumu-calc-qwen3-4b-Q4_K_M.ggufGGUFQ4_K_M2.33 GBDownload
jp-jitsumu-calc-qwen3-4b-Q8_0.ggufGGUFQ8_03.99 GBDownload
jp-jitsumu-calc-qwen3-4b-f16.ggufGGUFF167.50 GBDownload

Model Details

Model IDtokimoa/jp-jitsumu-calc-qwen3-4b-GGUF
Authortokimoa
Pipeline
Licenseapache-2.0
Base modelQwen/Qwen3-4B-Instruct-2507
Last modified2026-08-05T07:38:16.000Z

Model README

---

license: apache-2.0

base_model: Qwen/Qwen3-4B-Instruct-2507

language:

- ja

tags:

- gguf

- llama.cpp

- japanese

- business

- qwen3

---

jp-jitsumu-calc-qwen3-4b-GGUF

jp-jitsumu-calc-qwen3-4b(日本語業務の多段計算特化・期日計算/複数書類突合)のGGUF版です。llama.cppでWindows/Linux/MacのCPU・GPUで動作します。

ファイルと実測

| ファイル | サイズ | 期日計算(dev) | 書類突合(dev) | 備考 |

|---|---|---|---|---|

| Q8_0 | 4.0GB | 1.000 | 1.000 | 推奨。MLXアダプタ版と同値 |

| Q4_K_M | 2.3GB | 0.875 | 0.975 | 省メモリ。軽い劣化あり |

| f16 | 7.5GB | — | — | 参照用 |

検証セット(各40問・学習と分離)での正答率。本体repoのテスト値(期日計算0.925・書類突合0.975、ベース比+0.575/+0.425)はMLXアダプタ構成での測定です。

使い方

# llama.cpp(brew install llama.cpp 等で導入)
llama-server -m jp-jitsumu-calc-qwen3-4b-Q8_0.gguf --port 8080 --jinja --reasoning-format none

--reasoning-format none を推奨します。 既定のパーサだと本モデルの計算過程がreasoning_content側に分離され、contentが空になる場合があります。出力冒頭に迷いトークン(<think>等)が現れることがありますが、最終行のJSON({"answer": ...})をパースする運用で機械処理できます。

プロンプトは学習時の定型をそのまま使ってください(形式を変えると精度が下がります):

あなたは日本企業の経理・総務担当者です。以下の指示を読み、規程に従って正確に計算し、答えを求めてください。

# 指示
(ここに期日計算・書類突合の問題文)

# 出力形式
最終的な答えのみを、次のJSON1行で出力してください(説明文・単位・カンマは付けない)。
{"answer": <答え>}

- 日付を問われた場合: "answer" は "YYYY-MM-DD" 形式の文字列にすること(例: {"answer": "2026-03-02"})
- 金額・個数・数値を問われた場合: "answer" は数値のみにすること(カンマ・「円」「箱」等の単位を付けない。例: {"answer": 35000})

データと帰属

  • 学習データ: プログラム生成した業務計算問題(正解既知)に対する DeepSeek-V4-Flash の検証済み解答軌跡(DeepSeek Open Platform利用規約は蒸留を明示的に許可)
  • ベース: Qwen/Qwen3-4B-Instruct-2507(Apache-2.0)

---

Developed by tokimoa — データを外に出さないAI活用を支援しています

Run tokimoa/jp-jitsumu-calc-qwen3-4b-GGUF with guIDE

Download guIDE — the AI-native code editor with local LLM inference and 69 built-in tools.

Download guIDE → · Browse 524k+ models · Compare models

Source: Hugging Face · Compare models