---

language:

• fi
• en

license: apache-2.0

tags:

• finnish
• gguf
• llama.cpp
• lm-studio
• moe
• uncensored
• multimodal
• vision
• ocr
• reasoning
• kataguru
• qwen3.5
• apex

pipeline_tag: image-text-to-text

base_model: kataguru/Qwen3.5-35B-A3B-Sceptic-v3-CP200-W4A16

inference: false

model_creator: kataguru

model_name: Kataguru Sceptic 35B-A3B MoE v3.0 GGUF (Dual-Quant)

---

Kataguru Sceptic 35B-A3B MoE v3.0 Uncensored GGUF (Dual-Quant Standard)

<p align="center">

<img src="sceptic.png" alt="Kataguru Sceptic 35B-A3B MoE" width="100%">

</p>

Tämä repositorio sisältää Kataguru Sceptic v3.0 -lippulaivamallin viralliset, kuratoidut GGUF-kvantit paikalliseen työasema- ja kuluttajakäyttöön (LM Studio, llama.cpp, Ollama).

> [!IMPORTANT]

> 100 % Virheetön Suomi & Dual-Quant -Standardi:

> - Virheetön suomen kieli: Kaikki julkaistut mallit ja kvantit puhuvat luonnollista, rikasta ja täysin virheetöntä suomea. Kvantisointi ei riko suomen kielen morfologiaa, pitkiä yhdyssanoja eikä vaativia sijapäätteitä. Jokainen kvantti on kalibroitu kotimaisella _verified-aineiston aktivaatiomatriisilla (imatrix) ja testattu kielipatteristolla (run_hardcore_finnish_benchmark.py).

> - Ei valinnan vaikeutta, säästää levytilaa: Laivasto ei enää julkaise karkeita K-kvantteja (Q3/Q4/Q5/Q6). Julkaisemme poikkeuksetta tasan kaksi (2) empiirisesti optimoitua APEX-huippukvanttia, jotka säästävät levytilaa niin käyttäjän koneella kuin Hugging Facessa.

---

1. Saatavilla Olevat Viralliset Kvantit

| Tiedosto | Koko | Ajonaikainen VRAM | Suositeltu laitteisto | Kuvaus & Käyttökohde |

| :--- | :---: | :---: | :--- | :--- |

| Sceptic-35B-A3B-v3-APEX-Medium.gguf | 13,55 Gt | ~13,96 Gt | 16 GB VRAM (RTX 5060 Ti 16GB, RTX 4080) | 16 GiB Sweet Spot: Jättää ~2,4 Gt vapaata tilaa laajalle kontekstille ja FlashAttentionille. Erittäin nopea (253–265 tok/s). |

| Sceptic-35B-A3B-v3-APEX-Good.gguf | 15,33 Gt | ~15,83 Gt | 16 GB (tiukka konteksti) tai 24 GB+ (RTX 3090/4090/5090) | Lippulaivalaatu: Täysi semanttinen tarkkuus ja maksimaalinen päättelyteho (256–268 tok/s). |

| mmproj-Sceptic-35B-A3B-v3-APEX-Medium.gguf | 0,84 Gt | - | Yhdessä APEX-Mediumin kanssa | Multimodal Vision Projector: Kuva-, visio- ja OCR-analyysi suomeksi. |

| mmproj-Sceptic-35B-A3B-v3-APEX-Good.gguf | 0,84 Gt | - | Yhdessä APEX-Goodin kanssa | Multimodal Vision Projector: Kuva-, visio- ja OCR-analyysi suomeksi. |

| mtp-Sceptic-35B-A3B-v3-Q8_0.gguf | 1,84 Gt | - | llama.cpp / LM Studio (-md) | MTP Speculative Draft (Tarkka): Multi-Token Prediction -spekulaatiokiihdytys. |

| mtp-Sceptic-35B-A3B-v3-Q4_K_M.gguf | 1,16 Gt | - | llama.cpp / LM Studio (-md) | MTP Speculative Draft (Kevyt): Spekulaatiokiihdytys 16 Gt kuluttajakorteille. |

| sceptic_v3.imatrix | 0,18 Gt | - | Kvantisointiin ja toistettavuuteen | Suomalainen kalibrointiaktivaatiomatriisi (64 chunkia). |

---

2. Virallinen Mittauspöytäkirja (Official Audit & Benchmark Protocol)

2.1 Yleiskognitio ja STEM-benchmarkit (11 Tehtävää)

| Benchmark / Tehtävä | Qwen 3.8 27B Base | Occamy 1.0 | Apodex 1.1 Mini Upstream | Ornith 1.5 | Kataguru Sceptic v3 (Tämä malli) |

| :--- | :---: | :---: | :---: | :---: | :---: |

| Kokonaiskeskiarvo | 70,09 % | 65,18 % | 68,60 % | 67,11 % | 69,03 % |

| GSM8K (Matematiikka/CoT) | 84,69 % | 79,98 % | 83,09 % | 90,83 % | 82,56 % |

| MedQA (Lääketiede) | 77,53 % | 83,35 % | 85,23 % | 82,95 % | 85,39 % |

| TruthfulQA (Faktuaalisuus MC2) | 52,99 % | 52,70 % | 52,65 % | 51,96 % | 53,66 % |

| ARC Challenge (Tiede) | 67,66 % | 61,09 % | 68,43 % | 64,08 % | 65,02 % |

| MMLU-Pro (Syvä STEM) | 46,74 % | 37,90 % | 43,12 % | 38,98 % | 43,74 % |

| PIQA (Fysikaalinen päättely) | 82,43 % | 78,84 % | 82,92 % | 80,41 % | 81,66 % |

| Winogrande (Looginen kieli) | 77,11 % | 73,88 % | 77,43 % | 76,56 % | 76,80 % |

---

3. Käyttöesimerkit

LM Studio

1. Lataa joko Sceptic-35B-A3B-v3-APEX-Medium.gguf (16 Gt korteille) tai Sceptic-35B-A3B-v3-APEX-Good.gguf.
2. Lataa visiotukea varten vastaava mmproj-...gguf.
3. Valitse chat-mallipohjaksi Kataguru / Qwen3.5.

llama.cpp CLI & Palvelin

# Perusajo APEX-Mediumilla:
./llama-server \
  -m Sceptic-35B-A3B-v3-APEX-Medium.gguf \
  --mmproj mmproj-Sceptic-35B-A3B-v3-APEX-Medium.gguf \
  -ngl 99 -c 8192

# Spekulatiivinen dekoodaus MTP-draftilla (1.5x–2.0x nopeus):
./llama-cli \
  -m Sceptic-35B-A3B-v3-APEX-Medium.gguf \
  --spec-type draft-mtp \
  -md mtp-Sceptic-35B-A3B-v3-Q4_K_M.gguf \
  -ngl 99 -ngld 99 -c 4096