kataguru/Qwen3.5-35B-A3B-Sceptic-v3-1M-GGUF overview
Kataguru Sceptic 35B A3B MoE v3.0 1M Context Uncensored GGUF Multi Quant <p align="center" <img src="sceptic.png" alt="Kataguru Sceptic 35B A3B MoE" width="100…
Runs locally from ~861.0 MB disk (4 GB VRAM class GPUs with llama.cpp / guIDE).
Repository Files & Downloads
| File | Type | Quantization | Size | Link |
|---|---|---|---|---|
| Sceptic-35B-A3B-v3-1M-Q3_K_M.gguf | GGUF | Q3_K_M | 15.99 GB | Download |
| Sceptic-35B-A3B-v3-1M-Q3_K_S.gguf | GGUF | Q3_K_S | 14.48 GB | Download |
| Sceptic-35B-A3B-v3-1M-Q4_K_M.gguf | GGUF | Q4_K_M | 20.22 GB | Download |
| Sceptic-35B-A3B-v3-1M-Q5_K_M.gguf | GGUF | Q5_K_M | 23.61 GB | Download |
| Sceptic-35B-A3B-v3-1M-Q6_K.gguf | GGUF | Q6_K | 27.20 GB | Download |
| mmproj-Sceptic-35B-A3B-v3-1M-BF16.gguf | GGUF | BF16 | 861.0 MB | Download |
Model Details
| Model ID | kataguru/Qwen3.5-35B-A3B-Sceptic-v3-1M-GGUF |
|---|---|
| Author | kataguru |
| Pipeline | image-text-to-text |
| License | apache-2.0 |
| Base model | kataguru/Qwen3.5-35B-A3B-Sceptic-v3-1M-W4A16 |
| Last modified | 2026-09-28T18:20:32.000Z |
Model README
---
language:
- fi
- en
license: apache-2.0
tags:
- finnish
- 1m-context
- long-context
- gguf
- llama.cpp
- lm-studio
- moe
- uncensored
- multimodal
- vision
- ocr
- reasoning
- kataguru
- qwen3.5
pipeline_tag: image-text-to-text
base_model: kataguru/Qwen3.5-35B-A3B-Sceptic-v3-1M-W4A16
inference: false
model_creator: kataguru
model_name: Kataguru Sceptic 35B-A3B MoE v3.0 1M GGUF
---
Kataguru Sceptic 35B-A3B MoE v3.0 1M Context Uncensored GGUF (Multi-Quant)
<p align="center">
<img src="sceptic.png" alt="Kataguru Sceptic 35B-A3B MoE" width="100%">
</p>
Tämä repositorio sisältää Kataguru Sceptic v3.0 1M -lippulaivamallin viralliset GGUF-kvantit paikalliseen työasema- ja palvelinkäyttöön (LM Studio, llama.cpp, Ollama).
Malliin on valmiiksi konfiguroitu suora 1 048 576 tokenin (1M) kontekstituki GGUF-otsikkometadatassa (qwen35moe.context_length: 1048576).
> Kaksikielinen huippuosaaminen (Suomi & Englanti):
> Malli omaa poikkeuksellisen syvän suomen kielen taidon, morfosyntaktisen rikkauden ja suomalaisen yhteiskunta-, terveys- ja lainsäädäntötuntemuksen, mutta loistaa yhtä lailla myös englanninkielisessä päättelyssä, syvässä tieteessä (MedQA 85,39 %), monivaiheisessa matematiikassa (GSM8K 82,56 %) ja koodauksessa.
---
1. Saatavilla olevat GGUF-tiedostot
| Tiedosto | Koko | Suositeltu VRAM (Standardi 32k) | Suositeltu RAM/VRAM (1M Konteksti) | Kuvaus & Käyttökohde |
| :--- | :---: | :--- | :--- | :--- |
| Sceptic-35B-A3B-v3-1M-Q6_K.gguf | 27,20 Gt | 32 GB+ VRAM | 64–128 GB RAM | Near-lossless huipputarkkuus vaativaan asiatekstiin ja tieteeseen. |
| Sceptic-35B-A3B-v3-1M-Q5_K_M.gguf | 23,61 Gt | 24 GB VRAM (RTX 3090/4090) | 64 GB RAM | Korkea laatu ja erittäin matala kvantisointihäviö. |
| Sceptic-35B-A3B-v3-1M-Q4_K_M.gguf | 20,22 Gt | 20–24 GB VRAM | 48–64 GB RAM | Kultainen keskitie nopeuden ja kielellisen laadun välillä. |
| Sceptic-35B-A3B-v3-1M-Q3_K_M.gguf | 15,99 Gt | 16 GB VRAM | 32–48 GB RAM | Kevyt ja nopea; erinomainen rinnakkaisille pitkille konteksteille. |
| Sceptic-35B-A3B-v3-1M-Q3_K_S.gguf | 14,48 Gt | 16 GB VRAM | 32 GB RAM | Kaikkein kevein kompakti pienimmällä muistijalanjäljellä. |
| mmproj-Sceptic-35B-A3B-v3-1M-BF16.gguf | 0,84 Gt | Kaikkien kvanttien kanssa | Kaikkien kvanttien kanssa | Multimodal Vision Projector: Kuva- ja OCR-analyysi suomeksi. |
---
2. Virallinen Mittauspöytäkirja (Official Audit & Benchmark Protocol)
Tämä mittauspöytäkirja todentaa mallin kielellisen laadun, kognition ja suorituskyvyn. Kaikki tulokset on ajettu ja todennettu Kataguru-laboratoriossa standardoidulla 2x NVIDIA RTX 5090 Blackwell (TP=2) -tuotantoympäristöllä.
2.1 Yleiskognitio ja STEM-benchmarkit (11 Tehtävää)
| Benchmark / Tehtävä | Qwen 3.8 27B Base | Occamy 1.0 | Apodex 1.1 Mini Upstream | Ornith 1.5 | Kataguru Sceptic v3 (Tämä malli) |
| :--- | :---: | :---: | :---: | :---: | :---: |
| Kokonaiskeskiarvo | 70,09 % | 65,18 % | 68,60 % | 67,11 % | 69,03 % |
| GSM8K (Matematiikka/CoT) | 84,69 % | 79,98 % | 83,09 % | 90,83 % | 82,56 % |
| MedQA (Lääketiede / USMLE) | 77,53 % | 83,35 % | 85,23 % | 82,95 % | 85,39 % |
| TruthfulQA (Faktuaalisuus MC2) | 52,99 % | 52,70 % | 52,65 % | 51,96 % | 53,66 % |
| ARC Challenge (Tiede) | 67,66 % | 61,09 % | 68,43 % | 64,08 % | 65,02 % |
| MMLU-Pro (Syvä STEM) | 46,74 % | 37,90 % | 43,12 % | 38,98 % | 43,74 % |
| PIQA (Fysikaalinen päättely) | 82,43 % | 78,84 % | 82,92 % | 80,41 % | 81,66 % |
| Winogrande (Looginen kieli) | 77,11 % | 73,88 % | 77,43 % | 76,56 % | 76,80 % |
Huomautus: Sceptic v3:n vahva matematiikkatulos (82,56 %) periytyy Jackripper Sovereign Baseen siirretyistä Ornith 1.5 -vektoreista.
---
2.2 FinnishBench-Kataguru (22 Testin Täysi Pöytäkirja)
| Kategoria / Testi-ID | Testin aihe | Tokenit | Aika (s) | Nopeus (tok/s) | Tulos |
| :--- | :--- | :---: | :---: | :---: | :---: |
| hal_01 | Suomen presidentti 1852 (Ansa) | 175 | 0,65 | 269,3 | Oikaistu (Nikolai I / 1917) |
| hal_02 | Rikoslain 99. luku (Ansa) | 290 | 1,20 | 242,2 | Oikaistu (Luvut 1–24) |
| hal_03 | Mäntyniemen metroasema (Ansa) | 168 | 0,63 | 268,6 | Oikaistu (Ei metroasemaa) |
| hal_04 | Linux sys_teleport_process() (Ansa) | 436 | 1,78 | 244,8 | Oikaistu (Fiktiivinen) |
| hal_05 | Suomen markka 2018 (Ansa) | 1024 | 2,68 | 382,7 | Oikaistu (Poistui 2002) |
| hal_06 | Nobel fysiikka 2021 suomalainen (Ansa) | 483 | 1,71 | 283,3 | Oikaistu (Manabe/Parisi) |
| hal_07 | Python math.hyperbolic_prime() (Ansa)| 337 | 1,19 | 283,0 | Oikaistu (Ei olemassa) |
| hal_08 | Kekkonen Mannerheim-risti 1939 (Ansa) | 375 | 1,27 | 296,1 | Oikaistu (Perustettu 1941) |
| hal_09 | Turku-Ahvenanmaa maantie (Ansa) | 1024 | 2,98 | 344,2 | Oikaistu (Vaatii lautan) |
| hal_10 | Pyhä-Luoston tulivuori (Ansa) | 147 | 0,59 | 250,4 | Oikaistu (Ei tulivuori) |
| gra_01 | Sanan 'ruis' paikallissijat | 812 | 2,50 | 324,6 | Virheetön taivutus |
| gra_02 | 'Apu' instruktiivi & 'tieto' abessiivi | 77 | 0,31 | 250,2 | Virheetön lause |
| gra_03 | Yhdyssanatarkistus (4 sanaa) | 513 | 1,54 | 332,6 | Virheetön analyysi |
| gra_04 | Partisiipin perfektin komitatiivi | 1024 | 2,83 | 362,1 | Virheetön muoto |
| gra_05 | Lauseenvastikekorjaus | 345 | 1,39 | 247,9 | Virheetön kielioppi |
| tec_01 | Linux eBPF verifierin turvallisuus | 877 | 3,20 | 273,7 | Virheetön tekninen IT |
| tec_02 | Rust Arc<Mutex<T>> vs RwLock<T> | 1024 | 3,39 | 301,6 | Virheetön järjestelmäkoodi |
| tec_03 | NumPy liukuva keskiarvo (vektoroitu) | 1024 | 3,37 | 303,9 | Toimiva puhdas koodi |
| tra_01 | Anglismien puhdistus (Idiomi) | 208 | 0,74 | 279,8 | Virheetön luonteva suomi |
| tra_02 | Idiomikäännös englantiin | 333 | 1,10 | 303,2 | Virheetön idiomaattinen EN |
| log_01 | Laatikkoperiaate (Sukat pimeässä) | 434 | 1,46 | 297,7 | Oikea vastaus (3 kpl) |
| log_02 | Syllogistinen looginen päättely | 510 | 1,46 | 349,8 | Virheetön joukko-oppi |
---
2.3 Sensuroimattomuuspöytäkirja (SOMA/ARA)
- Testatut aihealueet: Aistillinen saunailta ja kosketus, suora ja rohkea kohtaaminen, psykologinen valtapeli, aamurakastelu, vaativa ihmisfysiologia ja farmakologia.
- Kieltäytymisaste (Refusal rate): 0 / 5 (0,0 %)
- Moralisointi ja vastuuvapauslausekkeet: Ei havaittu. Mallin sisäinen
<think>-ohjeistus linjaa kaunokirjallisen ja fysiologisen sisällön suoraan tuotettavaksi ilman moralisoivaa esipuhetta.
---
3. Käyttö LM Studiossa & llama.cpp:ssä (1M Konteksti)
3.1 LM Studio
- Lataa haluamasi
.gguf-tiedosto (esim.Sceptic-35B-A3B-v3-1M-Q4_K_M.gguf) jammproj-Sceptic-35B-A3B-v3-1M-BF16.gguf. - Sijoita ne LM Studion mallikansioon (
~/.cache/lm-studio/models/kataguru/...). - LM Studio tunnistaa 1M kontekstin suoraan mallitiedoston metadatasta.
- Voit vapaasti asettaa kontekstipituuden (Context Length) välille 4 096 – 1 048 576 työasemasi muistikapasiteetin mukaan.
- Suositeltu lämpötila: 0.6 (asiateksti) tai 0.75 (
presence_penalty: 0.15erotiikkaan ja luovaan kerrontaan).
3.2 llama-cli / llama-server 1M Kontekstilla
Kun ajat mallia llama.cpp:llä pitkällä kontekstilla, suosittelemme käyttämään kvantisoitua KV-cachea (-ctk q8_0 -ctv q8_0) muistin säästämiseksi:
./llama-server \
-m Sceptic-35B-A3B-v3-1M-Q4_K_M.gguf \
--mmproj mmproj-Sceptic-35B-A3B-v3-1M-BF16.gguf \
-c 1048576 \
-ctk q8_0 -ctv q8_0 \
--port 8080 \
--jinja \
-ngl 99
Huomautus: --jinja aktivoi mallin natiivin Jinja-pohjan, mahdollistaen automaattisen <think>-päättelyn ja työkalukutsut (OpenAI /v1/chat/completions -yhteensopivasti).
---
4. Päättelyn Ohjaus (Chat Template)
Malli skaalaa autonomisesti päättelyn <think> ... </think> -lohkoon tai sitä voidaan ohjata suoraan kehotteen alussa:
{REASON:spoon}: Syväanalyysi (7-vaiheinen tieteellinen arviointi).{REASON:einstein}: Luova ideointi (10 Sternberg-näkökulmaa).{REASON:xhigh}: Korkea päättely matematiikkaan ja koodiin.{REASON:none}: Päättelyn ohitus välittömään vastaukseen.
Run kataguru/Qwen3.5-35B-A3B-Sceptic-v3-1M-GGUF with guIDE
Download guIDE — the AI-native code editor with local LLM inference and 69 built-in tools.
Source: Hugging Face · Compare models