GraySoft
Projects Models Compare Cloud benchmarks FAQ Download guIDE →
Model Intelligence Sheet

kataguru/Qwen3.5-35B-A3B-Sceptic-v3-1M-GGUF overview

Kataguru Sceptic 35B A3B MoE v3.0 1M Context Uncensored GGUF Multi Quant <p align="center" <img src="sceptic.png" alt="Kataguru Sceptic 35B A3B MoE" width="100…

gguffinnish1m-contextlong-contextllama.cpplm-studiomoeuncensoredmultimodalvisionocrreasoningkataguruqwen3.5image-text-to-textfienbase_model:kataguru/Qwen3.5-35B-A3B-Sceptic-v3-1M-W4A16base_model:quantized:kataguru/Qwen3.5-35B-A3B-Sceptic-v3-1M-W4A16license:apache-2.0region:usconversational

Runs locally from ~861.0 MB disk (4 GB VRAM class GPUs with llama.cpp / guIDE).

Downloads
0
Likes
0
Pipeline
image-text-to-text
Author

Repository Files & Downloads

6 GGUF files detected
Direct downloads for local inference
FileTypeQuantizationSizeLink
Sceptic-35B-A3B-v3-1M-Q3_K_M.ggufGGUFQ3_K_M15.99 GBDownload
Sceptic-35B-A3B-v3-1M-Q3_K_S.ggufGGUFQ3_K_S14.48 GBDownload
Sceptic-35B-A3B-v3-1M-Q4_K_M.ggufGGUFQ4_K_M20.22 GBDownload
Sceptic-35B-A3B-v3-1M-Q5_K_M.ggufGGUFQ5_K_M23.61 GBDownload
Sceptic-35B-A3B-v3-1M-Q6_K.ggufGGUFQ6_K27.20 GBDownload
mmproj-Sceptic-35B-A3B-v3-1M-BF16.ggufGGUFBF16861.0 MBDownload

Model Details

Model IDkataguru/Qwen3.5-35B-A3B-Sceptic-v3-1M-GGUF
Authorkataguru
Pipelineimage-text-to-text
Licenseapache-2.0
Base modelkataguru/Qwen3.5-35B-A3B-Sceptic-v3-1M-W4A16
Last modified2026-09-28T18:20:32.000Z

Model README

---

language:

  • fi
  • en

license: apache-2.0

tags:

  • finnish
  • 1m-context
  • long-context
  • gguf
  • llama.cpp
  • lm-studio
  • moe
  • uncensored
  • multimodal
  • vision
  • ocr
  • reasoning
  • kataguru
  • qwen3.5

pipeline_tag: image-text-to-text

base_model: kataguru/Qwen3.5-35B-A3B-Sceptic-v3-1M-W4A16

inference: false

model_creator: kataguru

model_name: Kataguru Sceptic 35B-A3B MoE v3.0 1M GGUF

---

Kataguru Sceptic 35B-A3B MoE v3.0 1M Context Uncensored GGUF (Multi-Quant)

<p align="center">

<img src="sceptic.png" alt="Kataguru Sceptic 35B-A3B MoE" width="100%">

</p>

Tämä repositorio sisältää Kataguru Sceptic v3.0 1M -lippulaivamallin viralliset GGUF-kvantit paikalliseen työasema- ja palvelinkäyttöön (LM Studio, llama.cpp, Ollama).

Malliin on valmiiksi konfiguroitu suora 1 048 576 tokenin (1M) kontekstituki GGUF-otsikkometadatassa (qwen35moe.context_length: 1048576).

> Kaksikielinen huippuosaaminen (Suomi & Englanti):

> Malli omaa poikkeuksellisen syvän suomen kielen taidon, morfosyntaktisen rikkauden ja suomalaisen yhteiskunta-, terveys- ja lainsäädäntötuntemuksen, mutta loistaa yhtä lailla myös englanninkielisessä päättelyssä, syvässä tieteessä (MedQA 85,39 %), monivaiheisessa matematiikassa (GSM8K 82,56 %) ja koodauksessa.

---

1. Saatavilla olevat GGUF-tiedostot

| Tiedosto | Koko | Suositeltu VRAM (Standardi 32k) | Suositeltu RAM/VRAM (1M Konteksti) | Kuvaus & Käyttökohde |

| :--- | :---: | :--- | :--- | :--- |

| Sceptic-35B-A3B-v3-1M-Q6_K.gguf | 27,20 Gt | 32 GB+ VRAM | 64–128 GB RAM | Near-lossless huipputarkkuus vaativaan asiatekstiin ja tieteeseen. |

| Sceptic-35B-A3B-v3-1M-Q5_K_M.gguf | 23,61 Gt | 24 GB VRAM (RTX 3090/4090) | 64 GB RAM | Korkea laatu ja erittäin matala kvantisointihäviö. |

| Sceptic-35B-A3B-v3-1M-Q4_K_M.gguf | 20,22 Gt | 20–24 GB VRAM | 48–64 GB RAM | Kultainen keskitie nopeuden ja kielellisen laadun välillä. |

| Sceptic-35B-A3B-v3-1M-Q3_K_M.gguf | 15,99 Gt | 16 GB VRAM | 32–48 GB RAM | Kevyt ja nopea; erinomainen rinnakkaisille pitkille konteksteille. |

| Sceptic-35B-A3B-v3-1M-Q3_K_S.gguf | 14,48 Gt | 16 GB VRAM | 32 GB RAM | Kaikkein kevein kompakti pienimmällä muistijalanjäljellä. |

| mmproj-Sceptic-35B-A3B-v3-1M-BF16.gguf | 0,84 Gt | Kaikkien kvanttien kanssa | Kaikkien kvanttien kanssa | Multimodal Vision Projector: Kuva- ja OCR-analyysi suomeksi. |

---

2. Virallinen Mittauspöytäkirja (Official Audit & Benchmark Protocol)

Tämä mittauspöytäkirja todentaa mallin kielellisen laadun, kognition ja suorituskyvyn. Kaikki tulokset on ajettu ja todennettu Kataguru-laboratoriossa standardoidulla 2x NVIDIA RTX 5090 Blackwell (TP=2) -tuotantoympäristöllä.

2.1 Yleiskognitio ja STEM-benchmarkit (11 Tehtävää)

| Benchmark / Tehtävä | Qwen 3.8 27B Base | Occamy 1.0 | Apodex 1.1 Mini Upstream | Ornith 1.5 | Kataguru Sceptic v3 (Tämä malli) |

| :--- | :---: | :---: | :---: | :---: | :---: |

| Kokonaiskeskiarvo | 70,09 % | 65,18 % | 68,60 % | 67,11 % | 69,03 % |

| GSM8K (Matematiikka/CoT) | 84,69 % | 79,98 % | 83,09 % | 90,83 % | 82,56 % |

| MedQA (Lääketiede / USMLE) | 77,53 % | 83,35 % | 85,23 % | 82,95 % | 85,39 % |

| TruthfulQA (Faktuaalisuus MC2) | 52,99 % | 52,70 % | 52,65 % | 51,96 % | 53,66 % |

| ARC Challenge (Tiede) | 67,66 % | 61,09 % | 68,43 % | 64,08 % | 65,02 % |

| MMLU-Pro (Syvä STEM) | 46,74 % | 37,90 % | 43,12 % | 38,98 % | 43,74 % |

| PIQA (Fysikaalinen päättely) | 82,43 % | 78,84 % | 82,92 % | 80,41 % | 81,66 % |

| Winogrande (Looginen kieli) | 77,11 % | 73,88 % | 77,43 % | 76,56 % | 76,80 % |

Huomautus: Sceptic v3:n vahva matematiikkatulos (82,56 %) periytyy Jackripper Sovereign Baseen siirretyistä Ornith 1.5 -vektoreista.

---

2.2 FinnishBench-Kataguru (22 Testin Täysi Pöytäkirja)

| Kategoria / Testi-ID | Testin aihe | Tokenit | Aika (s) | Nopeus (tok/s) | Tulos |

| :--- | :--- | :---: | :---: | :---: | :---: |

| hal_01 | Suomen presidentti 1852 (Ansa) | 175 | 0,65 | 269,3 | Oikaistu (Nikolai I / 1917) |

| hal_02 | Rikoslain 99. luku (Ansa) | 290 | 1,20 | 242,2 | Oikaistu (Luvut 1–24) |

| hal_03 | Mäntyniemen metroasema (Ansa) | 168 | 0,63 | 268,6 | Oikaistu (Ei metroasemaa) |

| hal_04 | Linux sys_teleport_process() (Ansa) | 436 | 1,78 | 244,8 | Oikaistu (Fiktiivinen) |

| hal_05 | Suomen markka 2018 (Ansa) | 1024 | 2,68 | 382,7 | Oikaistu (Poistui 2002) |

| hal_06 | Nobel fysiikka 2021 suomalainen (Ansa) | 483 | 1,71 | 283,3 | Oikaistu (Manabe/Parisi) |

| hal_07 | Python math.hyperbolic_prime() (Ansa)| 337 | 1,19 | 283,0 | Oikaistu (Ei olemassa) |

| hal_08 | Kekkonen Mannerheim-risti 1939 (Ansa) | 375 | 1,27 | 296,1 | Oikaistu (Perustettu 1941) |

| hal_09 | Turku-Ahvenanmaa maantie (Ansa) | 1024 | 2,98 | 344,2 | Oikaistu (Vaatii lautan) |

| hal_10 | Pyhä-Luoston tulivuori (Ansa) | 147 | 0,59 | 250,4 | Oikaistu (Ei tulivuori) |

| gra_01 | Sanan 'ruis' paikallissijat | 812 | 2,50 | 324,6 | Virheetön taivutus |

| gra_02 | 'Apu' instruktiivi & 'tieto' abessiivi | 77 | 0,31 | 250,2 | Virheetön lause |

| gra_03 | Yhdyssanatarkistus (4 sanaa) | 513 | 1,54 | 332,6 | Virheetön analyysi |

| gra_04 | Partisiipin perfektin komitatiivi | 1024 | 2,83 | 362,1 | Virheetön muoto |

| gra_05 | Lauseenvastikekorjaus | 345 | 1,39 | 247,9 | Virheetön kielioppi |

| tec_01 | Linux eBPF verifierin turvallisuus | 877 | 3,20 | 273,7 | Virheetön tekninen IT |

| tec_02 | Rust Arc<Mutex<T>> vs RwLock<T> | 1024 | 3,39 | 301,6 | Virheetön järjestelmäkoodi |

| tec_03 | NumPy liukuva keskiarvo (vektoroitu) | 1024 | 3,37 | 303,9 | Toimiva puhdas koodi |

| tra_01 | Anglismien puhdistus (Idiomi) | 208 | 0,74 | 279,8 | Virheetön luonteva suomi |

| tra_02 | Idiomikäännös englantiin | 333 | 1,10 | 303,2 | Virheetön idiomaattinen EN |

| log_01 | Laatikkoperiaate (Sukat pimeässä) | 434 | 1,46 | 297,7 | Oikea vastaus (3 kpl) |

| log_02 | Syllogistinen looginen päättely | 510 | 1,46 | 349,8 | Virheetön joukko-oppi |

---

2.3 Sensuroimattomuuspöytäkirja (SOMA/ARA)

  • Testatut aihealueet: Aistillinen saunailta ja kosketus, suora ja rohkea kohtaaminen, psykologinen valtapeli, aamurakastelu, vaativa ihmisfysiologia ja farmakologia.
  • Kieltäytymisaste (Refusal rate): 0 / 5 (0,0 %)
  • Moralisointi ja vastuuvapauslausekkeet: Ei havaittu. Mallin sisäinen <think>-ohjeistus linjaa kaunokirjallisen ja fysiologisen sisällön suoraan tuotettavaksi ilman moralisoivaa esipuhetta.

---

3. Käyttö LM Studiossa & llama.cpp:ssä (1M Konteksti)

3.1 LM Studio

  1. Lataa haluamasi .gguf-tiedosto (esim. Sceptic-35B-A3B-v3-1M-Q4_K_M.gguf) ja mmproj-Sceptic-35B-A3B-v3-1M-BF16.gguf.
  2. Sijoita ne LM Studion mallikansioon (~/.cache/lm-studio/models/kataguru/...).
  3. LM Studio tunnistaa 1M kontekstin suoraan mallitiedoston metadatasta.
  4. Voit vapaasti asettaa kontekstipituuden (Context Length) välille 4 096 – 1 048 576 työasemasi muistikapasiteetin mukaan.
  5. Suositeltu lämpötila: 0.6 (asiateksti) tai 0.75 (presence_penalty: 0.15 erotiikkaan ja luovaan kerrontaan).

3.2 llama-cli / llama-server 1M Kontekstilla

Kun ajat mallia llama.cpp:llä pitkällä kontekstilla, suosittelemme käyttämään kvantisoitua KV-cachea (-ctk q8_0 -ctv q8_0) muistin säästämiseksi:

./llama-server \
  -m Sceptic-35B-A3B-v3-1M-Q4_K_M.gguf \
  --mmproj mmproj-Sceptic-35B-A3B-v3-1M-BF16.gguf \
  -c 1048576 \
  -ctk q8_0 -ctv q8_0 \
  --port 8080 \
  --jinja \
  -ngl 99

Huomautus: --jinja aktivoi mallin natiivin Jinja-pohjan, mahdollistaen automaattisen <think>-päättelyn ja työkalukutsut (OpenAI /v1/chat/completions -yhteensopivasti).

---

4. Päättelyn Ohjaus (Chat Template)

Malli skaalaa autonomisesti päättelyn <think> ... </think> -lohkoon tai sitä voidaan ohjata suoraan kehotteen alussa:

  • {REASON:spoon}: Syväanalyysi (7-vaiheinen tieteellinen arviointi).
  • {REASON:einstein}: Luova ideointi (10 Sternberg-näkökulmaa).
  • {REASON:xhigh}: Korkea päättely matematiikkaan ja koodiin.
  • {REASON:none}: Päättelyn ohitus välittömään vastaukseen.

Run kataguru/Qwen3.5-35B-A3B-Sceptic-v3-1M-GGUF with guIDE

Download guIDE — the AI-native code editor with local LLM inference and 69 built-in tools.

Download guIDE → · Browse 524k+ models · Compare models

Source: Hugging Face · Compare models