tokimoa/jp-jitsumu-calc-qwen3-4b-GGUF overview
jp jitsumu calc qwen3 4b GGUF jp jitsumu calc qwen3 4b https://huggingface.co/tokimoa/jp jitsumu calc qwen3 4b (日本語業務の多段計算特化・期日計算/複数書類突合)のGGUF版です。llama.cppでWin…
Runs locally from ~2.33 GB disk (4 GB VRAM class GPUs with llama.cpp / guIDE).
Repository Files & Downloads
Model Details
Model README
---
license: apache-2.0
base_model: Qwen/Qwen3-4B-Instruct-2507
language:
- ja
tags:
- gguf
- llama.cpp
- japanese
- business
- qwen3
---
jp-jitsumu-calc-qwen3-4b-GGUF
jp-jitsumu-calc-qwen3-4b(日本語業務の多段計算特化・期日計算/複数書類突合)のGGUF版です。llama.cppでWindows/Linux/MacのCPU・GPUで動作します。
ファイルと実測
| ファイル | サイズ | 期日計算(dev) | 書類突合(dev) | 備考 |
|---|---|---|---|---|
| Q8_0 | 4.0GB | 1.000 | 1.000 | 推奨。MLXアダプタ版と同値 |
| Q4_K_M | 2.3GB | 0.875 | 0.975 | 省メモリ。軽い劣化あり |
| f16 | 7.5GB | — | — | 参照用 |
検証セット(各40問・学習と分離)での正答率。本体repoのテスト値(期日計算0.925・書類突合0.975、ベース比+0.575/+0.425)はMLXアダプタ構成での測定です。
使い方
# llama.cpp(brew install llama.cpp 等で導入)
llama-server -m jp-jitsumu-calc-qwen3-4b-Q8_0.gguf --port 8080 --jinja --reasoning-format none
--reasoning-format none を推奨します。 既定のパーサだと本モデルの計算過程がreasoning_content側に分離され、contentが空になる場合があります。出力冒頭に迷いトークン(<think>等)が現れることがありますが、最終行のJSON({"answer": ...})をパースする運用で機械処理できます。
プロンプトは学習時の定型をそのまま使ってください(形式を変えると精度が下がります):
あなたは日本企業の経理・総務担当者です。以下の指示を読み、規程に従って正確に計算し、答えを求めてください。
# 指示
(ここに期日計算・書類突合の問題文)
# 出力形式
最終的な答えのみを、次のJSON1行で出力してください(説明文・単位・カンマは付けない)。
{"answer": <答え>}
- 日付を問われた場合: "answer" は "YYYY-MM-DD" 形式の文字列にすること(例: {"answer": "2026-03-02"})
- 金額・個数・数値を問われた場合: "answer" は数値のみにすること(カンマ・「円」「箱」等の単位を付けない。例: {"answer": 35000})
データと帰属
- 学習データ: プログラム生成した業務計算問題(正解既知)に対する DeepSeek-V4-Flash の検証済み解答軌跡(DeepSeek Open Platform利用規約は蒸留を明示的に許可)
- ベース: Qwen/Qwen3-4B-Instruct-2507(Apache-2.0)
---
Developed by tokimoa — データを外に出さないAI活用を支援しています
Run tokimoa/jp-jitsumu-calc-qwen3-4b-GGUF with guIDE
Download guIDE — the AI-native code editor with local LLM inference and 69 built-in tools.
Source: Hugging Face · Compare models