GraySoft
Projects Models Compare Cloud benchmarks FAQ Download guIDE →
Model Intelligence Sheet

kataguru/Kataguru-Sceptic-Quality-Inspector-v1.0-GGUF overview

Kataguru Sceptic Quality Inspector v1.0 Kataguru APEX Trio GGUF <p align="center" <img src="inspector.png" alt="Kataguru Sceptic Quality Inspector" width="450"…

gguffinnishuncensoredmoemultimodalvisionreasoningapexquality-inspectorllm-as-a-judgeimmunitytext-generationfienlicense:apache-2.0endpoints_compatibleregion:usimatrixconversational

Runs locally from ~861.0 MB disk (4 GB VRAM class GPUs with llama.cpp / guIDE).

Downloads
0
Likes
0
Pipeline
text-generation
Author

Repository Files & Downloads

6 GGUF files detected
Direct downloads for local inference
FileTypeQuantizationSizeLink
Kataguru-Sceptic-Quality-Inspector-v1.0-APEX-Good.ggufGGUFGGUF15.65 GBDownload
Kataguru-Sceptic-Quality-Inspector-v1.0-APEX-Medium.ggufGGUFGGUF13.57 GBDownload
Kataguru-Sceptic-Quality-Inspector-v1.0-APEX-Small.ggufGGUFGGUF12.07 GBDownload
mmproj-Kataguru-Sceptic-Quality-Inspector-v1.0-f16.ggufGGUFF16861.0 MBDownload
mtp-Kataguru-Sceptic-Quality-Inspector-v1.0-Q4_K_M.ggufGGUFQ4_K_M1.17 GBDownload
mtp-Kataguru-Sceptic-Quality-Inspector-v1.0-Q8_0.ggufGGUFQ8_01.85 GBDownload

Model Details

Model IDkataguru/Kataguru-Sceptic-Quality-Inspector-v1.0-GGUF
Authorkataguru
Pipelinetext-generation
Licenseapache-2.0
Base modelkataguru/Kataguru-Sceptic-Quality-Inspector-v1.0-BF16
Last modified2026-10-02T14:39:35.000Z

Model README

---

language:

  • fi
  • en

license: apache-2.0

tags:

  • finnish
  • uncensored
  • moe
  • multimodal
  • vision
  • reasoning
  • gguf
  • apex
  • quality-inspector
  • llm-as-a-judge
  • immunity

base_model: kataguru/Kataguru-Sceptic-Quality-Inspector-v1.0-BF16

pipeline_tag: text-generation

---

Kataguru Sceptic Quality Inspector v1.0 (Kataguru APEX Trio GGUF)

<p align="center">

<img src="inspector.png" alt="Kataguru Sceptic Quality Inspector" width="450"/>

</p>

Virallinen Kataguru-laadunvalvoja, episteeminen auditoija ja tuomarointimalli (LLM-as-a-Judge / Synthetic Data Inspector) GGUF-formaatissa. Malli on optimoitu kolmelle eri VRAM-kokoluokalle Katagurun virallisilla APEX-profiileilla (APEX-Medium, APEX-Good, APEX-Small) käyttäen kotimaista sceptic_v3.4.imatrix-kalibrointimatriisia.

Malli pohjautuu Qwen 3.5 35B-A3B MoE -arkkitehtuuriin ja Sceptic v3.5 -perustaan, jonka päälle on ajettu 1029 askeleen kurrikuloitu laaduntarkastuskoulutus (DETECT $\rightarrow$ VERIFY $\rightarrow$ VERDICT). Malli saavutti virallisessa 11 tehtävän testipatteristossa koko laivaston kaikkien aikojen korkeimman tuloksen (71,80 %) ja puhuu todennetusti 100 % virheetöntä suomea.

---

Mitä Kataguru muutti? (Insinööriyhteenveto)

| Kenttä | Kuvaus / Arvo |

| :--- | :--- |

| Arkkitehtuuri | Qwen 3.5 35B-A3B MoE (35B kokonaisparametria, ~3B aktiivisena per token) |

| Koulutuspohja | Sceptic v3.5 BF16 (STEM Math 3. Aallon Pumppaus + v3.4 Diabolical Immunity) |

| Laatukoulutus | 1029 askelta DETECT $\rightarrow$ VERIFY $\rightarrow$ VERDICT -tarkastuslogiikkaa ja ei-kompensoivaa tuomarointia |

| Kielilaatu | 100 % Virheetön suomi: Vaativat sijapäätteet, rektiot, yhdyssanat ja täsmällinen akateeminen sanasto |

| Päättelykyky | Laivaston ennätys 71,80 % 11 tehtävän patteristossa. GSM8K suora CoT 90,07 % (+19,87 % vs v3.5) |

| Kvantisointi | Kataguru APEX Trio (Medium, Good, Small) imatrix-kalibroinnilla |

| Visio / Multimodal | Täysi multimodaalituki mukana toimitetulla mmproj-projektorilla (OCR ja kuva-analyysi suomeksi) |

| Spekulatiivinen MTP | NextN/MTP -spekulaatiokerrokset integroitu ja saatavilla myös erillisinä draft-tiedostoina |

| Tuetut alustat | LM Studio / llama.cpp b11064+ / Ollama |

---

Saatavilla olevat tiedostot ja APEX-laatuluokat

Tästä mallista tarjotaan tasan kolme (3) kuratoitua APEX-kvanttia eri VRAM-kokoluokkiin:

| Tiedosto | Koko | Keskim. BPW | VRAM-suositus | Kuvaus ja Rakenne |

| :--- | :---: | :---: | :---: | :--- |

| Kataguru-Sceptic-Quality-Inspector-v1.0-APEX-Medium.gguf | ~13.6 GiB | 3.28 bpw | 16 Gt VRAM (Sweet Spot) | Ensisijainen suositus 16 Gt näytönohjaimille (RTX 4080, RTX 5060 Ti 16GB). Jättää ~2.4 GiB vapaata tilaa laajalle kontekstille. Attention Q5_K/Q4_K, expertit IQ3_S/IQ3_XXS. |

| Kataguru-Sceptic-Quality-Inspector-v1.0-APEX-Good.gguf | ~15.4 GiB | 3.71 bpw | 16–24 Gt VRAM (Max Laatu) | Maksimaalisen tarkkuuden profiili 16 Gt kortin kattoon tai 24 Gt+ korteille (RTX 3090, 4090, 5090). Attention Q6_K/Q5_K, expertit Q4_K/IQ3_S. |

| Kataguru-Sceptic-Quality-Inspector-v1.0-APEX-Small.gguf | ~12.1 GiB | 2.92 bpw | 12 Gt VRAM (Low-VRAM) | Optimoitu 12 Gt GPU:ille (RTX 3060 12GB, RTX 4070 12GB, RTX 5070 12GB). Attention Q5_K/Q4_K, expertit IQ3_S/IQ2_S. |

| mmproj-Kataguru-Sceptic-Quality-Inspector-v1.0-f16.gguf | 902 MiB | F16 | – | Multimodaalinen visioprojektori kuva-analyysiä ja OCR-tekstintunnistusta varten. |

| mtp-Kataguru-Sceptic-Quality-Inspector-v1.0-Q4_K_M.gguf | 1.26 GiB | Q4_K_M | – | Eristetty MTP-spekulaatiokerros erilliseen spekulatiiviseen dekoodaukseen. |

| mtp-Kataguru-Sceptic-Quality-Inspector-v1.0-Q8_0.gguf | 1.99 GiB | Q8_0 | – | Korkearesoluutioinen MTP-spekulaatiokerros. |

| quality_inspector.imatrix | 184 MiB | – | – | Kotimainen aktivaatiomatriisi täyden toistettavuuden varmistamiseksi. |

---

Virallinen 11 Tehtävän Benchmark-vertailu

Kaikki mittaukset on ajettu virallisella tuotantoalustalla (2x RTX 5090 Blackwell TP=2, identtinen testiympäristö):

| # | Tehtävä (Task ID) | Metriikka | Quality Inspector v1.0<br>(Tämä malli) | Sceptic v3.5<br>(Pohjamalli) | $\Delta$ vs v3.5 | Sceptic v3.4<br>(Diabolical) | Qwen 3.8 Base<br>(27B Dense) |

| :- | :--- | :--- | :---: | :---: | :---: | :---: | :---: |

| 1 | GSM8K Math (CoT) | Exact Match (Raw Strict) | 90,07 % | 70,20 % | +19,87 % | 68,23 % | 73,10 % |

| 2 | BoolQ | Luonnollisen kielen logiikka (Acc) | 🏆 90,49 % | 88,29 % | +2,20 % | 88,59 % | 89,20 % |

| 3 | WinoGrande | Kontekstuaalinen päättely (Acc) | 75,14 % | 73,40 % | +1,74 % | 72,77 % | 77,30 % |

| 4 | TruthfulQA MC1 | Faktatarkkuus (Single-True Acc) | 🏆 37,82 % | 35,99 % | +1,83 % | 35,62 % | 34,60 % |

| 5 | TruthfulQA MC2 | Episteeminen totuus (Multi-True Prob)| 53,51 % | 52,57 % | +0,94 % | 52,46 % | 51,10 % |

| 6 | ARC-Challenge | Vaativa STEM-päättely (Acc_norm) | 64,76 % | 57,08 % | +7,68 % | 57,25 % | 66,50 % |

| 7 | ARC-Easy | Standard STEM (Acc_norm) | 83,33 % | 75,13 % | +8,20 % | 75,29 % | 85,40 % |

| 8 | PIQA | Fysikaalinen intuitio (Acc_norm) | 82,75 % | 82,37 % | +0,38 % | 82,81 % | 81,80 % |

| 9 | OpenBookQA | Tieteellinen soveltaminen (Acc_norm)| 45,60 % | 45,60 % | ±0,00 % | 45,20 % | 45,10 % |

| 10 | MedQA | USMLE Lääketiede (Acc / 4-options) | 84,84 % | 85,47 % | -0,63 % | 85,86 % | 82,64 % |

| 11 | HellaSwag | Kielellinen koherenssi (Acc_norm) | 81,50 % | 82,82 % | -1,32 % | 82,74 % | 83,90 % |

| $\Sigma_{11}$ | 11 Tehtävän Ka. | Kokonaiskognitio (Virallinen) | 🏆 71,80 % | 68,08 % | +3,72 % | 70,10 % | 70,06 % |

---

Käyttöohjeet ja Syötemuoto (Input Contract)

Malli arvioi syötteitä virallisella syötemuodolla kolmivaiheisesti (DETECT $\rightarrow$ VERIFY $\rightarrow$ VERDICT):

[ARVIOINTITEHTÄVÄ]
[KEHOTE]:
<Alkuperäinen kysymys tai tehtävänanto>

[VASTAUS]:
<Arvioitava vastaus>

JSON-diagnostiikka ja Ei-kompensoiva Päätös:

Malli suorittaa sisäisen analyysin <think>...</think> -lohkon sisällä ja tuottaa standardoidun JSON-diagnostiikan:

  • ACCEPT: Vastaus on 100 % faktuaalinen, looginen, kielellisesti virheetön eikä sisällä hallusinaatioita.
  • REVIEW: Vastaus sisältää epävarmuutta tai väitteitä, jotka vaativat ulkoista lähdetarkastusta.
  • REJECT: Vastaus sisältää vähintään yhden vakavan virheen (fatal_error: true), kuten faktavirheen, matemaattisen virheen, syntaksivirheen tai kielioppivirheen.

---

Ajo LM Studiossa & llama.cpp:ssä

LM Studio:

  1. Lataa Kataguru-Sceptic-Quality-Inspector-v1.0-APEX-Medium.gguf (tai APEX-Good.gguf / APEX-Small.gguf).
  2. Liitä mmproj-Kataguru-Sceptic-Quality-Inspector-v1.0-f16.gguf Vision Adapter -kenttään kuva-arviointeja varten.
  3. Malli toimii suoraan kaksikielisesti suomeksi ja englanniksi.

llama.cpp CLI:

./llama-cli \
    -m Kataguru-Sceptic-Quality-Inspector-v1.0-APEX-Medium.gguf \
    --mmproj mmproj-Kataguru-Sceptic-Quality-Inspector-v1.0-f16.gguf \
    -p "[ARVIOINTITEHTÄVÄ]\n[KEHOTE]: Mitä eroa on abessiivilla ja inessiivillä?\n[VASTAUS]: Abessiivi ilmaisee poissaoloa ilman päätettä." \
    -ngl 99 \
    -c 32768 \
    -t 16

Run kataguru/Kataguru-Sceptic-Quality-Inspector-v1.0-GGUF with guIDE

Download guIDE — the AI-native code editor with local LLM inference and 69 built-in tools.

Download guIDE → · Browse 524k+ models · Compare models

Source: Hugging Face · Compare models