kataguru/Qwen3.8-27B-Titan-v3.0-1M-GGUF overview
Qwen3.8 27B Titan v3.0 1M GGUF Kataguru Titan 3.0 – Äärimmäinen Totuus 1M Context Edition Official GGUF Multi Quant for Desktop & Local AI LM Studio, Ollama, l…
Runs locally from ~888.0 MB disk (4 GB VRAM class GPUs with llama.cpp / guIDE).
Repository Files & Downloads
| File | Type | Quantization | Size | Link |
|---|---|---|---|---|
| Qwen3.8-27B-Titan-v3.0-1M-Q3_K_M.gguf | GGUF | Q3_K_M | 12.57 GB | Download |
| Qwen3.8-27B-Titan-v3.0-1M-Q3_K_S.gguf | GGUF | Q3_K_S | 11.41 GB | Download |
| Qwen3.8-27B-Titan-v3.0-1M-Q4_K_M.gguf | GGUF | Q4_K_M | 15.66 GB | Download |
| Qwen3.8-27B-Titan-v3.0-1M-Q5_K_M.gguf | GGUF | Q5_K_M | 18.19 GB | Download |
| Qwen3.8-27B-Titan-v3.0-1M-Q6_K.gguf | GGUF | Q6_K | 20.89 GB | Download |
| mmproj-Qwen3.8-27B-Titan-v3.0-1M-f16.gguf | GGUF | F16 | 888.0 MB | Download |
Model Details
| Model ID | kataguru/Qwen3.8-27B-Titan-v3.0-1M-GGUF |
|---|---|
| Author | kataguru |
| Pipeline | image-text-to-text |
| License | apache-2.0 |
| Base model | kataguru/Qwen3.8-27B-Titan-v3.0-1M-W4A16-AWQ |
| Last modified | 2026-09-28T12:50:30.000Z |
Model README
---
language:
- en
- fi
- et
- hu
- tr
license: apache-2.0
base_model:
- kataguru/Qwen3.8-27B-Titan-v3.0-1M-W4A16-AWQ
tags:
- quantized
- 1m-context
- long-context
- agglutinative
- turkish
- estonian
- hungarian
- finnish
- gguf
- lmstudio
- ollama
- llama.cpp
- reasoning
- uncensored
- math
- stem
- vision
- multimodal
- kataguru
- titan
pipeline_tag: image-text-to-text
model-index:
- name: kataguru/Qwen3.8-27B-Titan-v3.0-1M-GGUF
results:
- task:
type: text-generation
dataset:
name: MedQA (USMLE 4-options)
type: medqa_4options
metrics:
- name: Accuracy
value: 84.76
type: acc
- task:
type: text-generation
dataset:
name: EstCOPA (Estonian Causal Reasoning)
type: estcopa
metrics:
- name: Accuracy
value: 88.00
type: acc
- task:
type: text-generation
dataset:
name: GSM8K (Competition Math)
type: gsm8k
metrics:
- name: Accuracy
value: 77.41
type: acc
- task:
type: text-generation
dataset:
name: FinnishBench (Grammar & Factuality)
type: finnishbench
metrics:
- name: Accuracy
value: 98.2
type: acc
---
Qwen3.8-27B-Titan-v3.0-1M-GGUF
Kataguru Titan 3.0 – Äärimmäinen Totuus (1M Context Edition)
Official GGUF Multi-Quant for Desktop & Local AI (LM Studio, Ollama, llama.cpp)
<p align="center">
<img src="titan3.png" alt="Kataguru Titan 3.0 – Äärimmäinen Totuus" width="100%">
</p>
> "Totuus ei ole kauppatavaraa, miellyttämistä tai kompromisseja. Se on luonnon ja fysiikan lahjomaton laki, joka loistaa puhtaana kuin pohjoinen taivas."
> (Truth is neither a commodity, nor an exercise in people-pleasing, nor a compromise. It is the unyielding law of physics and nature, standing as clear and luminous as the northern sky.)
---
🌍 Executive Summary: 1M Context & Agglutinative Mastery
Kataguru Titan 3.0 1M GGUF tuo 27 miljardin parametrin lippulaivamallimme ennätyksellisen 1 048 576 tokenin (1M) konteksti-ikkunan suoraan kuluttajatyöasemille (LM Studio, llama.cpp, Ollama). Kontekstiraja on valmiiksi konfiguroitu suoraan GGUF-otsikkometadataan (qwen35.context_length: 1048576).
Malli yhdistää kirurgisen Master MLP Transfer -arkkitehtuurin, natiivin suomen kielen ja agglutinatiivisen perheen (viro, unkari, turkki) huippuosaamisen sekä ensiluokkaisen englanninkielisen kognition ilman kompromisseja.
> Kaksikielinen ja tieteellinen huipputaso:
> - Lääketiede & Tiede: MedQA (USMLE) 84,76 %, ARC-Easy 87,75 %, ARC-Challenge 68,00 %.
> - Matematiikka & STEM: GSM8K 77,41 %, NuminaMath, Astra STEM CoT.
> - Morfosyntaktinen syvyys: FinnishBench 98,2 %, EstCOPA (Viron kausaalipäättely) 88,00 %.
> - SOMA/ARA Uncensored: Täysi sensuroimattomuus ja fysiologinen/tieteellinen totuudenmukaisuus ilman moralisointia.
---
📦 Quantization File Matrix
| Tiedosto | Koko | Suositeltu VRAM (Standardi 32k) | Suositeltu RAM/VRAM (1M Konteksti) | Kuvaus & Käyttökohde |
| :--- | :---: | :--- | :--- | :--- |
| Qwen3.8-27B-Titan-v3.0-1M-Q6_K.gguf | 21,63 Gt | 24 GB VRAM (RTX 3090/4090) | 64–128 GB RAM | Near-lossless huipputarkkuus vaativaan asiatekstiin ja tieteeseen. |
| Qwen3.8-27B-Titan-v3.0-1M-Q5_K_M.gguf | 18,74 Gt | 20–24 GB VRAM | 64 GB RAM | Korkea laatu ja erittäin matala kvantisointihäviö. |
| Qwen3.8-27B-Titan-v3.0-1M-Q4_K_M.gguf | 16,10 Gt | 16–20 GB VRAM | 48–64 GB RAM | Kultainen standardi koon, nopeuden ja laadun suhteessa. |
| Qwen3.8-27B-Titan-v3.0-1M-Q3_K_M.gguf | 13,29 Gt | 16 GB VRAM | 32–48 GB RAM | Erittäin nopea ja kevyt pitkille tekstimassoille. |
| Qwen3.8-27B-Titan-v3.0-1M-Q3_K_S.gguf | 11,87 Gt | 12–16 GB VRAM | 32 GB RAM | Pienin muistijalanjälki. |
| mmproj-Qwen3.8-27B-Titan-v3.0-1M-f16.gguf | 0,87 Gt | Kaikkien kvanttien kanssa | Kaikkien kvanttien kanssa | Multimodal Vision Projector: Kuva-, OCR- ja dokumenttianalyysi. |
---
📊 Virallinen Mittauspöytäkirja (Official Audit & Benchmark Protocol)
Kaikki tulokset on todennettu Kataguru-laboratoriossa standardoidulla 2x NVIDIA RTX 5090 Blackwell (TP=2) -ympäristöllä:
| Benchmark / Tehtävä | Metriikka | Tarkkuus | Qwen 3.8 27B Base | Kataguru Titan 3.0 | Delta | Havainto & Vaikutus |
| :--- | :---: | :---: | :---: | :---: | :---: | :--- |
| FinnishBench (Morfologia & Syntaksi) | 5-alueen laatu | BF16 | 68,0 % | 98,2 % | +30,2 pp 🏆 | Virheetön suomi, Käypä hoito -kliinisyys, nolla käännöskukkasta |
| EstCOPA (Viron kausaalipäättely) | Tarkkuus | BF16 | N/A | 88,00 % | 88,00 % 🏆 | Sukulaiskielten morfeeminsiirto (44/50 oikein) |
| BoolQ (Tekstinymmärtäminen) | Tarkkuus | BF16 | 89,60 % | 90,83 % | +1,23 pp 🏆 | Syvä semanttinen ymmärtäminen ja väittämien todennus |
| ARC-Easy (arc/e) | Acc_norm | BF16 | 72,98 % | 87,75 % | +14,77 pp 🏆 | Luokkansa terävintä luonnontieteellistä päättelyä |
| GSM8K (Matematiikka) | Flexible Extract | BF16 | 65,50 % | 77,41 % | +11,91 pp 🚀 | Vahva monivaiheinen päättelyketju |
| HellaSwag (hswag) | Acc_norm | BF16 | 74,60 % | 85,11 % | +10,51 pp 🏆 | Maailmantieto ja kontekstin looginen jatkaminen |
| ARC-Challenge (arc/c) | Acc_norm | BF16 | 58,62 % | 68,00 % | +9,38 pp 🚀 | Vaativa tieteellinen ongelmanratkaisu |
| WinoGrande (wino) | Tarkkuus | BF16 | 71,10 % | 79,87 % | +8,77 pp 🚀 | Kielellinen monimerkityksisyyksien ratkaisu |
| PIQA (Fysikaalinen päättely) | Acc_norm | BF16 | 80,10 % | 83,73 % | +3,63 pp 🏆 | Fysikaalinen arkijärki ja intuitio |
| OpenBookQA (obkqa) | Acc_norm | BF16 | 44,80 % | 46,20 % | +1,40 pp 🏆 | Tieteellisen faktatiedon haku ja deduktio |
| TruthfulQA MC2 | Multi-True Prob | BF16 | 54,24 % | 54,77 % | +0,53 pp 🏆 | Korkea vastustuskyky harhoille ja myyteille |
| MedQA (USMLE Step 1, 2, 3) | 4-vaihtoehtoa Acc | W4A16 | 82,64 % | 84,76 % | +2,12 pp 🏆 | 1 273 kliinisen lääkärilisenssikokeen kysymystä |
| Kokonaismittauksen Keskiarvo | Yhdistelmä | — | 66,40 % | 72,67 % 🏆 | +6,27 pp 🏆 | Tieteellisen ja kielellisen laadun huipputaso |
---
🚀 Käyttöönotto LM Studiossa & llama.cpp:ssä (1M Konteksti)
LM Studio
- Lataa haluamasi
.gguf-tiedosto jammproj-Qwen3.8-27B-Titan-v3.0-1M-f16.gguf. - Sijoita ne LM Studion mallikansioon (
~/.cache/lm-studio/models/kataguru/...). - LM Studio tunnistaa 1M kontekstin suoraan otsikkometadatasta.
- Voit vapaasti asettaa kontekstipituuden (Context Length) välille 4 096 – 1 048 576 työasemasi muistin salliessa.
- Suositeltu lämpötila: 0.6 (asiateksti) tai 0.75 (luova ja vapaa kerronta).
llama-server (1M Konteksti, Työkalukutsut & KV-välimuistin optimointi)
./llama-server \
-m Qwen3.8-27B-Titan-v3.0-1M-Q4_K_M.gguf \
--mmproj mmproj-Qwen3.8-27B-Titan-v3.0-1M-f16.gguf \
-c 1048576 \
-ctk q8_0 -ctv q8_0 \
--port 8080 \
--jinja \
-ngl 99
Huomautus: --jinja aktivoi mallin natiivin Jinja-pohjan, mahdollistaen automaattisen <think>-päättelyn ja työkalukutsut (OpenAI /v1/chat/completions -yhteensopivasti).
---
💡 Päättelyn Ohjaus (Chat Template)
Malli osaa autonomisesti päättelyn <think> ... </think> -lohkoissa. Sitä voidaan ohjata suoraan kehotteessa tageilla:
{REASON:spoon}: Syväanalyysi (7-vaiheinen tieteellinen arviointi).{REASON:einstein}: Luova ideointi (10 Sternberg-näkökulmaa).{REASON:xhigh}: Korkea päättely matematiikkaan ja koodiin.{REASON:none}: Päättelyn ohitus välittömään vastaukseen.
Run kataguru/Qwen3.8-27B-Titan-v3.0-1M-GGUF with guIDE
Download guIDE — the AI-native code editor with local LLM inference and 69 built-in tools.
Source: Hugging Face · Compare models