kataguru/Kataguru-Sceptic-Quality-Inspector-v1.0-GGUF overview
Kataguru Sceptic Quality Inspector v1.0 Kataguru APEX Trio GGUF <p align="center" <img src="inspector.png" alt="Kataguru Sceptic Quality Inspector" width="450"…
Runs locally from ~861.0 MB disk (4 GB VRAM class GPUs with llama.cpp / guIDE).
Repository Files & Downloads
| File | Type | Quantization | Size | Link |
|---|---|---|---|---|
| Kataguru-Sceptic-Quality-Inspector-v1.0-APEX-Good.gguf | GGUF | GGUF | 15.65 GB | Download |
| Kataguru-Sceptic-Quality-Inspector-v1.0-APEX-Medium.gguf | GGUF | GGUF | 13.57 GB | Download |
| Kataguru-Sceptic-Quality-Inspector-v1.0-APEX-Small.gguf | GGUF | GGUF | 12.07 GB | Download |
| mmproj-Kataguru-Sceptic-Quality-Inspector-v1.0-f16.gguf | GGUF | F16 | 861.0 MB | Download |
| mtp-Kataguru-Sceptic-Quality-Inspector-v1.0-Q4_K_M.gguf | GGUF | Q4_K_M | 1.17 GB | Download |
| mtp-Kataguru-Sceptic-Quality-Inspector-v1.0-Q8_0.gguf | GGUF | Q8_0 | 1.85 GB | Download |
Model Details
| Model ID | kataguru/Kataguru-Sceptic-Quality-Inspector-v1.0-GGUF |
|---|---|
| Author | kataguru |
| Pipeline | text-generation |
| License | apache-2.0 |
| Base model | kataguru/Kataguru-Sceptic-Quality-Inspector-v1.0-BF16 |
| Last modified | 2026-10-02T14:39:35.000Z |
Model README
---
language:
- fi
- en
license: apache-2.0
tags:
- finnish
- uncensored
- moe
- multimodal
- vision
- reasoning
- gguf
- apex
- quality-inspector
- llm-as-a-judge
- immunity
base_model: kataguru/Kataguru-Sceptic-Quality-Inspector-v1.0-BF16
pipeline_tag: text-generation
---
Kataguru Sceptic Quality Inspector v1.0 (Kataguru APEX Trio GGUF)
<p align="center">
<img src="inspector.png" alt="Kataguru Sceptic Quality Inspector" width="450"/>
</p>
Virallinen Kataguru-laadunvalvoja, episteeminen auditoija ja tuomarointimalli (LLM-as-a-Judge / Synthetic Data Inspector) GGUF-formaatissa. Malli on optimoitu kolmelle eri VRAM-kokoluokalle Katagurun virallisilla APEX-profiileilla (APEX-Medium, APEX-Good, APEX-Small) käyttäen kotimaista sceptic_v3.4.imatrix-kalibrointimatriisia.
Malli pohjautuu Qwen 3.5 35B-A3B MoE -arkkitehtuuriin ja Sceptic v3.5 -perustaan, jonka päälle on ajettu 1029 askeleen kurrikuloitu laaduntarkastuskoulutus (DETECT $\rightarrow$ VERIFY $\rightarrow$ VERDICT). Malli saavutti virallisessa 11 tehtävän testipatteristossa koko laivaston kaikkien aikojen korkeimman tuloksen (71,80 %) ja puhuu todennetusti 100 % virheetöntä suomea.
---
Mitä Kataguru muutti? (Insinööriyhteenveto)
| Kenttä | Kuvaus / Arvo |
| :--- | :--- |
| Arkkitehtuuri | Qwen 3.5 35B-A3B MoE (35B kokonaisparametria, ~3B aktiivisena per token) |
| Koulutuspohja | Sceptic v3.5 BF16 (STEM Math 3. Aallon Pumppaus + v3.4 Diabolical Immunity) |
| Laatukoulutus | 1029 askelta DETECT $\rightarrow$ VERIFY $\rightarrow$ VERDICT -tarkastuslogiikkaa ja ei-kompensoivaa tuomarointia |
| Kielilaatu | 100 % Virheetön suomi: Vaativat sijapäätteet, rektiot, yhdyssanat ja täsmällinen akateeminen sanasto |
| Päättelykyky | Laivaston ennätys 71,80 % 11 tehtävän patteristossa. GSM8K suora CoT 90,07 % (+19,87 % vs v3.5) |
| Kvantisointi | Kataguru APEX Trio (Medium, Good, Small) imatrix-kalibroinnilla |
| Visio / Multimodal | Täysi multimodaalituki mukana toimitetulla mmproj-projektorilla (OCR ja kuva-analyysi suomeksi) |
| Spekulatiivinen MTP | NextN/MTP -spekulaatiokerrokset integroitu ja saatavilla myös erillisinä draft-tiedostoina |
| Tuetut alustat | LM Studio / llama.cpp b11064+ / Ollama |
---
Saatavilla olevat tiedostot ja APEX-laatuluokat
Tästä mallista tarjotaan tasan kolme (3) kuratoitua APEX-kvanttia eri VRAM-kokoluokkiin:
| Tiedosto | Koko | Keskim. BPW | VRAM-suositus | Kuvaus ja Rakenne |
| :--- | :---: | :---: | :---: | :--- |
| Kataguru-Sceptic-Quality-Inspector-v1.0-APEX-Medium.gguf | ~13.6 GiB | 3.28 bpw | 16 Gt VRAM (Sweet Spot) | Ensisijainen suositus 16 Gt näytönohjaimille (RTX 4080, RTX 5060 Ti 16GB). Jättää ~2.4 GiB vapaata tilaa laajalle kontekstille. Attention Q5_K/Q4_K, expertit IQ3_S/IQ3_XXS. |
| Kataguru-Sceptic-Quality-Inspector-v1.0-APEX-Good.gguf | ~15.4 GiB | 3.71 bpw | 16–24 Gt VRAM (Max Laatu) | Maksimaalisen tarkkuuden profiili 16 Gt kortin kattoon tai 24 Gt+ korteille (RTX 3090, 4090, 5090). Attention Q6_K/Q5_K, expertit Q4_K/IQ3_S. |
| Kataguru-Sceptic-Quality-Inspector-v1.0-APEX-Small.gguf | ~12.1 GiB | 2.92 bpw | 12 Gt VRAM (Low-VRAM) | Optimoitu 12 Gt GPU:ille (RTX 3060 12GB, RTX 4070 12GB, RTX 5070 12GB). Attention Q5_K/Q4_K, expertit IQ3_S/IQ2_S. |
| mmproj-Kataguru-Sceptic-Quality-Inspector-v1.0-f16.gguf | 902 MiB | F16 | – | Multimodaalinen visioprojektori kuva-analyysiä ja OCR-tekstintunnistusta varten. |
| mtp-Kataguru-Sceptic-Quality-Inspector-v1.0-Q4_K_M.gguf | 1.26 GiB | Q4_K_M | – | Eristetty MTP-spekulaatiokerros erilliseen spekulatiiviseen dekoodaukseen. |
| mtp-Kataguru-Sceptic-Quality-Inspector-v1.0-Q8_0.gguf | 1.99 GiB | Q8_0 | – | Korkearesoluutioinen MTP-spekulaatiokerros. |
| quality_inspector.imatrix | 184 MiB | – | – | Kotimainen aktivaatiomatriisi täyden toistettavuuden varmistamiseksi. |
---
Virallinen 11 Tehtävän Benchmark-vertailu
Kaikki mittaukset on ajettu virallisella tuotantoalustalla (2x RTX 5090 Blackwell TP=2, identtinen testiympäristö):
| # | Tehtävä (Task ID) | Metriikka | Quality Inspector v1.0<br>(Tämä malli) | Sceptic v3.5<br>(Pohjamalli) | $\Delta$ vs v3.5 | Sceptic v3.4<br>(Diabolical) | Qwen 3.8 Base<br>(27B Dense) |
| :- | :--- | :--- | :---: | :---: | :---: | :---: | :---: |
| 1 | GSM8K Math (CoT) | Exact Match (Raw Strict) | 90,07 % | 70,20 % | +19,87 % | 68,23 % | 73,10 % |
| 2 | BoolQ | Luonnollisen kielen logiikka (Acc) | 🏆 90,49 % | 88,29 % | +2,20 % | 88,59 % | 89,20 % |
| 3 | WinoGrande | Kontekstuaalinen päättely (Acc) | 75,14 % | 73,40 % | +1,74 % | 72,77 % | 77,30 % |
| 4 | TruthfulQA MC1 | Faktatarkkuus (Single-True Acc) | 🏆 37,82 % | 35,99 % | +1,83 % | 35,62 % | 34,60 % |
| 5 | TruthfulQA MC2 | Episteeminen totuus (Multi-True Prob)| 53,51 % | 52,57 % | +0,94 % | 52,46 % | 51,10 % |
| 6 | ARC-Challenge | Vaativa STEM-päättely (Acc_norm) | 64,76 % | 57,08 % | +7,68 % | 57,25 % | 66,50 % |
| 7 | ARC-Easy | Standard STEM (Acc_norm) | 83,33 % | 75,13 % | +8,20 % | 75,29 % | 85,40 % |
| 8 | PIQA | Fysikaalinen intuitio (Acc_norm) | 82,75 % | 82,37 % | +0,38 % | 82,81 % | 81,80 % |
| 9 | OpenBookQA | Tieteellinen soveltaminen (Acc_norm)| 45,60 % | 45,60 % | ±0,00 % | 45,20 % | 45,10 % |
| 10 | MedQA | USMLE Lääketiede (Acc / 4-options) | 84,84 % | 85,47 % | -0,63 % | 85,86 % | 82,64 % |
| 11 | HellaSwag | Kielellinen koherenssi (Acc_norm) | 81,50 % | 82,82 % | -1,32 % | 82,74 % | 83,90 % |
| $\Sigma_{11}$ | 11 Tehtävän Ka. | Kokonaiskognitio (Virallinen) | 🏆 71,80 % | 68,08 % | +3,72 % | 70,10 % | 70,06 % |
---
Käyttöohjeet ja Syötemuoto (Input Contract)
Malli arvioi syötteitä virallisella syötemuodolla kolmivaiheisesti (DETECT $\rightarrow$ VERIFY $\rightarrow$ VERDICT):
[ARVIOINTITEHTÄVÄ]
[KEHOTE]:
<Alkuperäinen kysymys tai tehtävänanto>
[VASTAUS]:
<Arvioitava vastaus>
JSON-diagnostiikka ja Ei-kompensoiva Päätös:
Malli suorittaa sisäisen analyysin <think>...</think> -lohkon sisällä ja tuottaa standardoidun JSON-diagnostiikan:
ACCEPT: Vastaus on 100 % faktuaalinen, looginen, kielellisesti virheetön eikä sisällä hallusinaatioita.REVIEW: Vastaus sisältää epävarmuutta tai väitteitä, jotka vaativat ulkoista lähdetarkastusta.REJECT: Vastaus sisältää vähintään yhden vakavan virheen (fatal_error: true), kuten faktavirheen, matemaattisen virheen, syntaksivirheen tai kielioppivirheen.
---
Ajo LM Studiossa & llama.cpp:ssä
LM Studio:
- Lataa
Kataguru-Sceptic-Quality-Inspector-v1.0-APEX-Medium.gguf(taiAPEX-Good.gguf/APEX-Small.gguf). - Liitä
mmproj-Kataguru-Sceptic-Quality-Inspector-v1.0-f16.ggufVision Adapter -kenttään kuva-arviointeja varten. - Malli toimii suoraan kaksikielisesti suomeksi ja englanniksi.
llama.cpp CLI:
./llama-cli \
-m Kataguru-Sceptic-Quality-Inspector-v1.0-APEX-Medium.gguf \
--mmproj mmproj-Kataguru-Sceptic-Quality-Inspector-v1.0-f16.gguf \
-p "[ARVIOINTITEHTÄVÄ]\n[KEHOTE]: Mitä eroa on abessiivilla ja inessiivillä?\n[VASTAUS]: Abessiivi ilmaisee poissaoloa ilman päätettä." \
-ngl 99 \
-c 32768 \
-t 16Run kataguru/Kataguru-Sceptic-Quality-Inspector-v1.0-GGUF with guIDE
Download guIDE — the AI-native code editor with local LLM inference and 69 built-in tools.
Source: Hugging Face · Compare models