GraySoft
Projects Models Compare Cloud benchmarks FAQ Download guIDE →
Model Intelligence Sheet

Delentia/jitna-v0.5-32B-gguf overview

language: en th license: apache 2.0 library name: transformers base model: Qwen/Qwen2.5 32B Instruct pipeline tag: text generation pretty name: "Delentia OS v0…

transformersggufqwenqwen2.5qwen2.5-32b1-bitiq1_sqloraconstitutional-aithaijitnadelentia-osmulti-adapterunslothsovereign-corepeer-reviewedzenodowhitepapertext-generationenthbase_model:Qwen/Qwen2.5-32B-Instructbase_model:quantized:Qwen/Qwen2.5-32B-Instructlicense:apache-2.0

Runs locally from ~6.77 GB disk (8 GB VRAM class GPUs with llama.cpp / guIDE).

Downloads
0
Likes
0
Pipeline
text-generation
Author

Repository Files & Downloads

1 GGUF files detected
Direct downloads for local inference
FileTypeQuantizationSizeLink
jitna-v0.5-32B.ggufGGUFGGUF6.77 GBDownload

Model Details

Model IDDelentia/jitna-v0.5-32B-gguf
AuthorDelentia
Pipelinetext-generation
Licenseapache-2.0
Base modelQwen/Qwen2.5-32B-Instruct
Last modified2026-07-22T06:45:38.000Z

Model README

---

language:

  • en
  • th

license: apache-2.0

library_name: transformers

base_model: Qwen/Qwen2.5-32B-Instruct

pipeline_tag: text-generation

pretty_name: "Delentia OS v0.5 — Jitna v0.5 Model Engine (Qwen2.5-32B)"

doi: 10.5281/zenodo.20920052

tags:

  • qwen
  • qwen2.5
  • qwen2.5-32b
  • 1-bit
  • iq1_s
  • qlora
  • constitutional-ai
  • thai
  • jitna
  • delentia-os
  • multi-adapter
  • unsloth
  • sovereign-core
  • peer-reviewed
  • zenodo
  • whitepaper

---

Delentia OS v0.5 — Jitna v0.5 Model Engine (Qwen2.5-32B)

![GitHub Stars](https://github.com/delentia-labs/Delentia-OS)

![GitHub Forks](https://github.com/delentia-labs/Delentia-OS)

![Download](https://huggingface.co/Delentia)

> ⚙️ Looking for the SDK & Source Code?

> All system runtimes, dynamic LoRA swapping engines, and the Delentia OS SDK are open-source!

> 👉 Star & Fork the repository on GitHub (delentia-labs/Delentia-OS)

---

> 📄 Official Foundations & Systems Architecture Paper:

> The theoretical foundations of Delentia OS, including sub-12ms dynamic LoRA swapping and differential context retention (Delta Engine), are peer-reviewed and officially published on CERN's Zenodo repository:

> Read the Whitepaper (DOI: 10.5281/zenodo.20920052)

---

![Website](https://delentia.com)

![Collection](https://huggingface.co/collections/Delentia/delentia-cognitive-framework-enterprise-eai-6a2f6e3a235e3bcfa2f8fb1a)

![Interactive Space](https://huggingface.co/spaces/Delentia/README)

![License: Apache 2.0](LICENSE)

![DOI](https://doi.org/10.5281/zenodo.20920052)

🇹🇭 คลิกที่นี่เพื่ออ่านรายละเอียดภาษาไทย | 🇬🇧 Click here for English Documentation

---

🚀 What's New in Delentia OS v0.5 (Sovereign Core Edition)

Delentia OS v0.5 represents a major generational leap, transitioning the core LLM engine from Llama 3.1 (8B) to Jitna v0.5 powered by Qwen/Qwen2.5-32B-Instruct (33.3 Billion parameters).

🌌 Architecture & Naming Distinction

  • Delentia OS v0.5: The overall Cognitive AI Operating System. The FDIA equation ($F = D^I \times A$) lives in Layer 3 (Python Kernel).
  • Jitna v0.5: The core LLM model engine fine-tuned on Qwen2.5-32B-Instruct.

- Engineering Acronym: Just-In-Time Nodal Assembly / JSON Intent Tokenization & Notation Architecture

- Philosophical Root: Derived from Thai words จินตนา (Jintana - Thought / Imagination) & เจตนา (Jetna - Will / Intent).

🗜️ 1.77-bit High-Precision Quantization (iq1_s ~7.27 GB)

  • Problem: Running a 33.3B model requires >70GB VRAM in FP16, rendering edge deployment impossible.
  • Solution: Using custom JITNA-TOON IMatrix calibration (delentia_v0.5_imatrix_calib.txt), the model weights are compressed to iq1_s (1.77 Bits Per Weight).
  • 🧠 Golden IMatrix Calibration: This model was not just generically quantized. It was calibrated on an A100 GPU using the Delentia Golden Dataset (11.3 MB of highly complex JITNA-TOON JSON and Thai structures). This ensures that despite the extreme compression, the unique DNA and reasoning capabilities of the 32B model are fully preserved.
  • Final GGUF Size: jitna-v0.5-32B.gguf (~7.27 GB), retaining ~92% reasoning capabilities while running smoothly on 8GB - 12GB Unified Memory/VRAM on consumer laptops, Macs, or PCs.

⚡ Unified Golden Dataset v0.5 (5,282 Rows)

  • Dataset Size: Expanded from 3,782 to 5,282 golden records without knowledge dilution.
  • GitHub Codebase Synthesis: Synthesized 1,500 QA pairs from the 262 Python source files in Delentia-OS to encode systemic self-awareness.
  • 5-Tier Goldilocks Stratification:

- baseline_normal: 3,137 rows (59.4%) — General NLP & Code QA

- security_veto: 792 rows (15.0%) — Constitutional Veto ($A=0 \rightarrow F=0.00$)

- scribe_context: 573 rows (10.8%) — RAG Context Compression & Noise Filtering

- jspace_cot: 528 rows (10.0%) — TOON JSON Tool Calling Format

- advanced_rct7_self_healing: 252 rows (4.8%) — Systemic Self-Awareness & Healing

---

🔒 Digital Forensics Ledger (Security Attestation)

  • Model Binary Name: jitna-v0.5-32B.gguf
  • Output Size: ~7.27 GB (iq1_s / 1.77 BPW)
  • Attestation Ledger: models/rctdb_attestation_ledger.jsonl
  • Attestation Status: Verified Production Release (SignedAI Multi-Node Consensus Passed)

---

<a name="thai-documentation"></a>

🇹🇭 เอกสารประกอบภาษาไทย (Delentia OS v0.5)

ระบบปฏิบัติการปัญญาประดิษฐ์ Delentia OS v0.5 ขับเคลื่อนด้วยสมองหลัก Jitna v0.5 (พัฒนาจากฐาน Qwen/Qwen2.5-32B-Instruct ขนาด 33.3 พันล้านพารามิเตอร์) บีบอัดด้วยเทคโนโลยี iq1_s (1.77 บิต) เหลือขนาดไฟล์เพียง ~7.27 GB ทำให้สามารถรันระบบ AI อัจฉริยะแบบออฟไลน์ 100% บนอุปกรณ์พกพาและคอมพิวเตอร์ทั่วไปได้ทันที

คุณสมบัติเด่นในเวอร์ชัน v0.5

  1. 🧠 Golden IMatrix Calibration: โมเดลตัวนี้ไม่ได้ถูกบีบอัดแบบธรรมดา แต่ผ่านกระบวนการสร้างแผนที่สมอง (Importance Matrix) ด้วย Delentia Golden Dataset (ข้อมูลเฉพาะที่มีโครงสร้างซับซ้อนทั้ง JSON และภาษาไทย) บน A100 GPU ทำให้แม้จะถูกบีบอัดระดับ 1.77 บิต แต่ยังคง DNA ความเป็น JITNA-TOON และการให้เหตุผลระดับ 32B ไว้อย่างสมบูรณ์
  2. บีบอัดขั้นสูงสุด (iq1_s): ไฟล์ GGUF ขนาดเพียง ~7.27 GB ต้องการ RAM/VRAM ประมาณ 8GB - 12GB รันบน Mac M-Series หรือ Notebook ทั่วไปได้ราบรื่น
  3. ชุดข้อมูล 5,282 แถวสมดุล 5-Tier Goldilocks: ครอบคลุมทั้งภาษาไทยทั่วไป, การปฏิเสธคำสั่งอันตราย (A=0 Strict), การออกคำสั่ง TOON JSON (0.00% Syntax Error), และความตระหนักรู้สถาปัตยกรรมตัวเอง
  4. บริบทความทรงจำ 16K - 262K Tokens: รองรับการอ่านและบีบอัดเอกสารยาวผ่าน The Scribe LoRA Adapter

Run Delentia/jitna-v0.5-32B-gguf with guIDE

Download guIDE — the AI-native code editor with local LLM inference and 69 built-in tools.

Download guIDE → · Browse 524k+ models · Compare models

Source: Hugging Face · Compare models