Delentia/jitna-v0.5-32B-gguf overview
language: en th license: apache 2.0 library name: transformers base model: Qwen/Qwen2.5 32B Instruct pipeline tag: text generation pretty name: "Delentia OS v0…
Runs locally from ~6.77 GB disk (8 GB VRAM class GPUs with llama.cpp / guIDE).
Repository Files & Downloads
| File | Type | Quantization | Size | Link |
|---|---|---|---|---|
| jitna-v0.5-32B.gguf | GGUF | GGUF | 6.77 GB | Download |
Model Details
| Model ID | Delentia/jitna-v0.5-32B-gguf |
|---|---|
| Author | Delentia |
| Pipeline | text-generation |
| License | apache-2.0 |
| Base model | Qwen/Qwen2.5-32B-Instruct |
| Last modified | 2026-07-22T06:45:38.000Z |
Model README
---
language:
- en
- th
license: apache-2.0
library_name: transformers
base_model: Qwen/Qwen2.5-32B-Instruct
pipeline_tag: text-generation
pretty_name: "Delentia OS v0.5 — Jitna v0.5 Model Engine (Qwen2.5-32B)"
doi: 10.5281/zenodo.20920052
tags:
- qwen
- qwen2.5
- qwen2.5-32b
- 1-bit
- iq1_s
- qlora
- constitutional-ai
- thai
- jitna
- delentia-os
- multi-adapter
- unsloth
- sovereign-core
- peer-reviewed
- zenodo
- whitepaper
---
Delentia OS v0.5 — Jitna v0.5 Model Engine (Qwen2.5-32B)



> ⚙️ Looking for the SDK & Source Code?
> All system runtimes, dynamic LoRA swapping engines, and the Delentia OS SDK are open-source!
> 👉 Star & Fork the repository on GitHub (delentia-labs/Delentia-OS)
---
> 📄 Official Foundations & Systems Architecture Paper:
> The theoretical foundations of Delentia OS, including sub-12ms dynamic LoRA swapping and differential context retention (Delta Engine), are peer-reviewed and officially published on CERN's Zenodo repository:
> Read the Whitepaper (DOI: 10.5281/zenodo.20920052)
---





🇹🇭 คลิกที่นี่เพื่ออ่านรายละเอียดภาษาไทย | 🇬🇧 Click here for English Documentation
---
🚀 What's New in Delentia OS v0.5 (Sovereign Core Edition)
Delentia OS v0.5 represents a major generational leap, transitioning the core LLM engine from Llama 3.1 (8B) to Jitna v0.5 powered by Qwen/Qwen2.5-32B-Instruct (33.3 Billion parameters).
🌌 Architecture & Naming Distinction
- Delentia OS v0.5: The overall Cognitive AI Operating System. The FDIA equation ($F = D^I \times A$) lives in Layer 3 (Python Kernel).
- Jitna v0.5: The core LLM model engine fine-tuned on Qwen2.5-32B-Instruct.
- Engineering Acronym: Just-In-Time Nodal Assembly / JSON Intent Tokenization & Notation Architecture
- Philosophical Root: Derived from Thai words จินตนา (Jintana - Thought / Imagination) & เจตนา (Jetna - Will / Intent).
🗜️ 1.77-bit High-Precision Quantization (iq1_s ~7.27 GB)
- Problem: Running a 33.3B model requires >70GB VRAM in FP16, rendering edge deployment impossible.
- Solution: Using custom JITNA-TOON IMatrix calibration (
delentia_v0.5_imatrix_calib.txt), the model weights are compressed toiq1_s(1.77 Bits Per Weight). - 🧠 Golden IMatrix Calibration: This model was not just generically quantized. It was calibrated on an A100 GPU using the Delentia Golden Dataset (11.3 MB of highly complex JITNA-TOON JSON and Thai structures). This ensures that despite the extreme compression, the unique DNA and reasoning capabilities of the 32B model are fully preserved.
- Final GGUF Size:
jitna-v0.5-32B.gguf(~7.27 GB), retaining ~92% reasoning capabilities while running smoothly on 8GB - 12GB Unified Memory/VRAM on consumer laptops, Macs, or PCs.
⚡ Unified Golden Dataset v0.5 (5,282 Rows)
- Dataset Size: Expanded from 3,782 to 5,282 golden records without knowledge dilution.
- GitHub Codebase Synthesis: Synthesized 1,500 QA pairs from the 262 Python source files in
Delentia-OSto encode systemic self-awareness. - 5-Tier Goldilocks Stratification:
- baseline_normal: 3,137 rows (59.4%) — General NLP & Code QA
- security_veto: 792 rows (15.0%) — Constitutional Veto ($A=0 \rightarrow F=0.00$)
- scribe_context: 573 rows (10.8%) — RAG Context Compression & Noise Filtering
- jspace_cot: 528 rows (10.0%) — TOON JSON Tool Calling Format
- advanced_rct7_self_healing: 252 rows (4.8%) — Systemic Self-Awareness & Healing
---
🔒 Digital Forensics Ledger (Security Attestation)
- Model Binary Name:
jitna-v0.5-32B.gguf - Output Size: ~7.27 GB (
iq1_s/ 1.77 BPW) - Attestation Ledger:
models/rctdb_attestation_ledger.jsonl - Attestation Status: Verified Production Release (SignedAI Multi-Node Consensus Passed)
---
<a name="thai-documentation"></a>
🇹🇭 เอกสารประกอบภาษาไทย (Delentia OS v0.5)
ระบบปฏิบัติการปัญญาประดิษฐ์ Delentia OS v0.5 ขับเคลื่อนด้วยสมองหลัก Jitna v0.5 (พัฒนาจากฐาน Qwen/Qwen2.5-32B-Instruct ขนาด 33.3 พันล้านพารามิเตอร์) บีบอัดด้วยเทคโนโลยี iq1_s (1.77 บิต) เหลือขนาดไฟล์เพียง ~7.27 GB ทำให้สามารถรันระบบ AI อัจฉริยะแบบออฟไลน์ 100% บนอุปกรณ์พกพาและคอมพิวเตอร์ทั่วไปได้ทันที
คุณสมบัติเด่นในเวอร์ชัน v0.5
- 🧠 Golden IMatrix Calibration: โมเดลตัวนี้ไม่ได้ถูกบีบอัดแบบธรรมดา แต่ผ่านกระบวนการสร้างแผนที่สมอง (Importance Matrix) ด้วย Delentia Golden Dataset (ข้อมูลเฉพาะที่มีโครงสร้างซับซ้อนทั้ง JSON และภาษาไทย) บน A100 GPU ทำให้แม้จะถูกบีบอัดระดับ 1.77 บิต แต่ยังคง DNA ความเป็น JITNA-TOON และการให้เหตุผลระดับ 32B ไว้อย่างสมบูรณ์
- บีบอัดขั้นสูงสุด (
iq1_s): ไฟล์ GGUF ขนาดเพียง ~7.27 GB ต้องการ RAM/VRAM ประมาณ 8GB - 12GB รันบน Mac M-Series หรือ Notebook ทั่วไปได้ราบรื่น - ชุดข้อมูล 5,282 แถวสมดุล 5-Tier Goldilocks: ครอบคลุมทั้งภาษาไทยทั่วไป, การปฏิเสธคำสั่งอันตราย (A=0 Strict), การออกคำสั่ง TOON JSON (0.00% Syntax Error), และความตระหนักรู้สถาปัตยกรรมตัวเอง
- บริบทความทรงจำ 16K - 262K Tokens: รองรับการอ่านและบีบอัดเอกสารยาวผ่าน The Scribe LoRA Adapter
Run Delentia/jitna-v0.5-32B-gguf with guIDE
Download guIDE — the AI-native code editor with local LLM inference and 69 built-in tools.
Source: Hugging Face · Compare models