GraySoft
Projects Models Compare Cloud benchmarks FAQ Download guIDE →
Model Intelligence Sheet

kataguru/Qwen3.8-27B-Finnish-Titan-Uncensored-GGUF overview

Qwen3.8 27B Finnish Titan Uncensored GGUF <p align="center" <img src="https://img.shields.io/badge/Status Flagship%20GGUF purple?style=for the badge&logo=fire&…

ggufqwenqwen3.5finnishlorafinetunedmergellama.cpplm-studiouncensoredmtpvisionmultimodalmulti-token-predictiontext-generationconversationalfienbase_model:DavidAU/Qwen3.8-27B-TWIN-TURBO-Fable-Cold-Fusion-709-ULTRA-HERETIC-Uncensoredbase_model:adapter:DavidAU/Qwen3.8-27B-TWIN-TURBO-Fable-Cold-Fusion-709-ULTRA-HERETIC-Uncensoredlicense:apache-2.0endpoints_compatibleregion:us

Runs locally from ~888.0 MB disk (4 GB VRAM class GPUs with llama.cpp / guIDE).

Downloads
18
Likes
0
Pipeline
text-generation
Author

Repository Files & Downloads

10 GGUF files detected
Direct downloads for local inference
FileTypeQuantizationSizeLink
Qwen3.8-27B-Finnish-Titan-Uncensored-IQ4_XS.ggufGGUFIQ4_XS14.36 GBDownload
Qwen3.8-27B-Finnish-Titan-Uncensored-MTP-draft.ggufGGUFGGUF5.54 GBDownload
Qwen3.8-27B-Finnish-Titan-Uncensored-Q2_K.ggufGGUFQ2_K10.12 GBDownload
Qwen3.8-27B-Finnish-Titan-Uncensored-Q3_K_M.ggufGGUFQ3_K_M12.57 GBDownload
Qwen3.8-27B-Finnish-Titan-Uncensored-Q3_K_S.ggufGGUFQ3_K_S11.41 GBDownload
Qwen3.8-27B-Finnish-Titan-Uncensored-Q4_K_M.ggufGGUFQ4_K_M15.66 GBDownload
Qwen3.8-27B-Finnish-Titan-Uncensored-Q5_K_M.ggufGGUFQ5_K_M18.19 GBDownload
Qwen3.8-27B-Finnish-Titan-Uncensored-Q6_K.ggufGGUFQ6_K20.89 GBDownload
Qwen3.8-27B-Finnish-Titan-Uncensored-Q8_0.ggufGGUFQ8_027.05 GBDownload
mmproj-Qwen3.8-27B-Finnish-Titan-Uncensored-f16.ggufGGUFF16888.0 MBDownload

Model Details

Model IDkataguru/Qwen3.8-27B-Finnish-Titan-Uncensored-GGUF
Authorkataguru
Pipelinetext-generation
Licenseapache-2.0
Base modelDavidAU/Qwen3.8-27B-TWIN-TURBO-Fable-Cold-Fusion-709-ULTRA-HERETIC-Uncensored
Last modified2026-09-23T04:59:33.000Z

Model README

---

license: apache-2.0

base_model: DavidAU/Qwen3.8-27B-TWIN-TURBO-Fable-Cold-Fusion-709-ULTRA-HERETIC-Uncensored

language:

  • fi
  • en

pipeline_tag: text-generation

tags:

  • qwen
  • qwen3.5
  • finnish
  • lora
  • finetuned
  • merge
  • gguf
  • llama.cpp
  • lm-studio
  • uncensored
  • mtp
  • vision
  • multimodal
  • multi-token-prediction

---

Qwen3.8-27B-Finnish-Titan-Uncensored-GGUF

<p align="center">

<img src="https://img.shields.io/badge/Status-Flagship%20GGUF-purple?style=for-the-badge&logo=fire&logoColor=white" alt="Flagship GGUF">

<img src="https://img.shields.io/badge/Quants-Q4__K__M%20%7C%20Q8__0%20%7C%20Q6__K-6f42c1?style=for-the-badge" alt="GGUF Quants">

<img src="https://img.shields.io/badge/Visual-mmproj%20Included-7928ca?style=for-the-badge" alt="mmproj">

</p>

<p align="center">

<img src="titan.png" alt="Qwen 3.8 27B Finnish Titan" width="100%">

</p>

Tämä repositorio sisältää viralliset GGUF-monikvantit, multimodaalisen visioprojektorin (mmproj) sekä MTP-spekulatiivisen vedosmallin mallista Qwen3.8-27B-Finnish-Titan-Uncensored.

Malli on syntynyt kattavan suomenkielisen LoRA-hienosäädön (Low-Rank Adaptation) ja painofuusioinnin (LoRA Merge) tuloksena vahvasta 27B-pohjamallista (DavidAU/Qwen3.8-27B-TWIN-TURBO-Fable-Cold-Fusion-709-ULTRA-HERETIC-Uncensored).

Kvantisoinnissa on käytetty erillistä 256 näytteen suomenkielistä monialakalibrointia, mikä takaa LoRA-koulutetun suomen kielen vivahteiden ja sijamuotojen täyden laadun säilymisen kaikissa GGUF-kvanteissa.

Muut julkaisuversiot:

---

Saatavilla olevat kvantit ja tiedostot

1. Suositellut kvantit 16 GB VRAM / RAM -laitteille

(Esim. RTX 4080 16GB, RTX 5060 Ti 16GB, kannettavat 16GB GPU:t, Apple Silicon Mac 16GB)

| Tiedosto | Koko | BPW | Kuvaus & Muistin riittävyys |

| :--- | :---: | :---: | :--- |

| Q3_K_S | ~11.4 GB | 3.59 | 16 GB:n kultainen standardi! Jättää jopa ~4.6 GB vapaata VRAMia, mahdollistaen pitkät 16k–32k kontekstit ilman muistin loppumista. |

| Q2_K | ~10.1 GB | 3.18 | Ultrakevyt: Jättää lähes 6 GB muistia vapaaksi maksimaalista kontekstia tai useampia rinnakkaisia pyyntöjä varten. |

| Q3_K_M | ~13.2 GB | 3.75 | Tasapainoinen 3-bittinen kvantti, jättää ~2.8 GB tilaa KV-cachelle. |

| IQ4_XS | ~14.35 GB | 4.51 | Korkein 4-bittinen tarkkuus 16 GB muistiin. Toimii 16 GB VRAMissa tiiviillä KV-cachella (FP8/Q8). |

---

2. Kvantit suuremmille laitteille (24 GB / 32 GB+ VRAM tai 32–64 GB RAM)

(Esim. RTX 3090, RTX 4090, RTX 5090, Apple Silicon Mac 32GB/64GB)

| Tiedosto | Koko | BPW | Kuvaus |

| :--- | :---: | :---: | :--- |

| Q4_K_M | ~16.6 GB | 4.87 | Kultainen oletussuositus (24 GB VRAM): Paras tasapaino koon, nopeuden ja päättelytarkkuuden välillä. |

| Q5_K_M | ~19.7 GB | 5.69 | Korkea laatu: Lähes täysi BF16-tarkkuus minimaalisella häviöllä. |

| Q6_K | ~22.4 GB | 6.56 | Huipputarkkuus (Near-lossless): Vaativiin 32 GB+ VRAM / 64 GB RAM -ympäristöihin. |

| Q8_0 | ~29.8 GB | 8.50 | Maksimitarkkuus (1:1 BF16): Täysi 8-bittinen tarkkuus referenssi- ja tutkimuskäyttöön. |

---

3. Oheistiedostot (Vision & MTP)

  • mmproj-Qwen3.8-27B-Finnish-Titan-Uncensored-f16.gguf (~889 MB):

- Multimodaalinen visioprojektori LM Studioon ja llama.cpp:lle. Lataa tämä tiedosto mallin rinnalle kuvien ja visuaalisen aineiston analysointia varten.

  • Qwen3.8-27B-Finnish-Titan-Uncensored-MTP-draft.gguf (~5.9 GB):

- Erillinen Multi-Token Prediction (MTP) -vedosmalli llama.cpp:n spekulatiiviseen dekoodaukseen (--model-draft).

---

Koulutus-, LoRA-fuusio- ja Kalibrointitiedot

  1. LoRA-hienosäätö ja Painosulautus (LoRA Merge):

- Pohjamalli: DavidAU/Qwen3.8-27B-TWIN-TURBO-Fable-Cold-Fusion-709-ULTRA-HERETIC-Uncensored.

- Malliin on koulutettu ja sulautettu suomen kielen syvällinen kielioppi, rikas sanasto, tieteellinen ja tekninen asiatyyli, luova kerronta sekä sensuroimaton ilmaisuvapaus.

- LoRA-adapterit on sulautettu suoraan BF16-peruspainoihin (Cold-Fusion Merge), jolloin malli toimii puhtaasti ilman erillistä adapterikuormaa.

  1. Rikas suomenkielinen kalibrointiaineisto:

- Kvantisointia ja aktivaatiojakaumien säilyttämistä varten malli on kalibroitu huolellisesti kuratoidulla 256 monikierrosnäytteen suomalaisella moniala-aineistolla:

- 30 % Kaunokirjallisuus, luova proosa ja vivahteikas kerronta

- 25 % Tiede, neurobiologia ja lääketiede

- 25 % IT, Linux-arkkitehtuuri ja ohjelmistokehitys

- 20 % Filosofia, yhteiskunta sekä estoton aikuiskuvaus

- Kalibrointi takaa, että suomen kielen monimutkainen morfologia, sijapäätteet ja harvinainen erikoissanasto säilyvät kristallinkirkkaina myös kompakteissa 16 GB -kvanteissa (Q3_K_S, IQ4_XS, Q2_K).

---

---

⚡ Päivitys (23.9.2026): Kataguru Master Chat Template v1.0

Mallin chat_template.jinja on päivitetty viralliseen Kataguru Master Chat Template -standardiin, joka yhdistää syvällisen päättelyn, poikkeuksellisen episteemisen kurinalaisuuden ja jämäkän asiantuntijaluonteen:

  1. Jämäkkä Luonne & Episteeminen Kurinalaisuus (Anti-Sycophancy / Avulias Aatu -kielto):

- Ei tyhjää lätinää tai mielistelyä: Täytesanat ("Totta kai!", "Autan mielelläni!", "Hieno kysymys!") on karsittu pois. Vastaus alkaa suoraan asiasisällöstä ensimmäisestä sanasta lähtien ilman esipuheita tai pahoitteluja.

- Premissien ja virheiden suora oikaisu: Jos käyttäjän kysymyksen oletus, historiallinen fakta tai koodi on virheellinen, malli ei myötäile virhettä (sycophancy), vaan oikaisee sen heti alussa faktoihin nojaten.

- Pysyvyys haastettaessa: Malli ei muuta kantaansa tai pyytele anteeksi vain siksi, että käyttäjä kyseenalaistaa sen ilman uutta todennettua näyttöä.

- Episteeminen rehellisyys: Tuntematon todetaan rehellisesti ("Tätä ei tiedetä" / "Tälle ei ole empiiristä näyttöä"), eikä hallusinoida vastauksia roolin säilyttämiseksi.

  1. Mitattu Hallusinaatiovastustuskyky: 85.0 % (17/20):

- 20 vaativan ansa- ja konfabulaatiokysymyksen empiirisessä benchmarkissa (keksityt tieteelliset käsitteet, olemattomat lait, anakronismit ja keksityt API-rajapinnat) malli torjui virhepremissit 85,0 % tarkkuudella.

  1. Autonominen Päättely (Spoon & Einstein Filosofia):

- Malli skaalaa sisäisen päättelyn syvyyden (<think>...</think>) automaattisesti aiheen vaativuuden mukaan:

- Spoon Deep Research: Tieteellinen tutkimus, lääketiede ja faktatarkistus ilman virtuaalipaneelien vuotamista käyttäjälle.

- Einstein-menetelmä: Luova aivoriihi ja moninäkökulmainen konseptointi.

- Sensuroimattomuus: 100 % estoton, suorasanainen ja elävä kerronta kaikille laillisille teemoille ilman moralisointia tai vastuuvapauslausekkeita (disclaimers).

Keskeiset ominaisuudet

  1. Laaja 262k konteksti-ikkuna:

- Malli tukee natiivisti jopa 262 144 tokenin kontekstia (max_position_embeddings: 262144).

  1. Monipuolinen ja dynaaminen päättely (<think>...</think>):

- Autonominen päättelyn syvyys (oletus vähintään medium): Malli arvioi tehtävän vaativuuden itse ja skaalaa päättelyä:

- Luovassa ideoinnissa ja aivoriihessä soveltaa autonomisesti Einstein/DAU-menetelmää (10 Sternberg-perspektiiviä).

- Syvätutkimuksessa, fysiologisissa mekanismeissa ja vaativissa analyyseissä soveltaa autonomisesti Spoon Deep Research -protokollaa.

- Novellit, tarinat ja asiasisällöt saavat aina vähintään keskitasoisen (medium) harkinnan.

- No-think (ajattelun ohitus) on rajattu ainoastaan lyhyisiin rutiinitievehdyksiin tai käyttäjän eksplisiittiseen pyyntöön.

  1. Ohjattavat päättelytasot ({REASON:}) (valinnainen pakotus):

Voit ohjata ajattelun syvyyttä lisäämällä viestin alkuun:

- {REASON:spoon}: Syvätutkimus (kriittinen premissien ja faktojen validointi).

- {REASON:einstein}: Luova aivoriihi (10 näkökulmaa, radikaalit ideat ja IdeaArray).

- {REASON:xhigh}: Erittäin korkea päättelytaso.

- {REASON:medium}: Tasapainoinen analyysi ja jäsennelty vastaus.

- {REASON:low}: Lyhyt ja ytimekäs ajattelu.

- {REASON:off}: Ajattelu kokonaan pois päältä (välitön vastaus).

  1. Sensuroimaton ilmaisu ja rikas suomen kieli:

- Ei moralisointia, ei saarnoja, ei teeskenneltyjä vastuuvapauslausekkeita.

- Luonteva suomen kielen kielioppi, oikeat sijapäätteet ja täsmällinen erikoissanasto.

---

Käyttöohjeet

LM Studio

  1. Etsi ja lataa malli nimellä kataguru/Qwen3.8-27B-Finnish-Titan-Uncensored-GGUF.
  2. Valitse laitteellesi sopiva kvantti (esim. 16 GB laitteille Q3_K_S tai IQ4_XS, 24 GB laitteille Q4_K_M).
  3. Visiotukea varten varmista, että mmproj-tiedosto on valittuna projektoriksi.

llama.cpp (Komentorivi & Palvelin)

Peruskäynnistys:

./llama-server \
    -m Qwen3.8-27B-Finnish-Titan-Uncensored-Q4_K_M.gguf \
    --mmproj mmproj-Qwen3.8-27B-Finnish-Titan-Uncensored-f16.gguf \
    -ngl 99 \
    -c 32768 \
    --port 8080

MTP-spekulatiivinen dekoodaus (nopeampi generointi):

./llama-cli \
    -m Qwen3.8-27B-Finnish-Titan-Uncensored-Q4_K_M.gguf \
    -md Qwen3.8-27B-Finnish-Titan-Uncensored-MTP-draft.gguf \
    -ngl 99 \
    -c 8192 \
    -p "Hei! Kerro minulle suomalaisen saunakulttuurin historiasta."

---

vLLM-versio

Jos käytät vLLM-tuotantopalvelinta, tutustu rinnakkaiseen versioon:

👉 kataguru/Qwen3.8-27B-Finnish-Titan-Uncensored-W4A16-AWQ

Run kataguru/Qwen3.8-27B-Finnish-Titan-Uncensored-GGUF with guIDE

Download guIDE — the AI-native code editor with local LLM inference and 69 built-in tools.

Download guIDE → · Browse 524k+ models · Compare models

Source: Hugging Face · Compare models