HTPQoo/Sinythos-5.5-GGUF overview
Sinythos 5.5 Un solo file, pronto all'uso. Scarica Sinythos 5.5 Integrity.gguf 17,7 GB e trascinalo in LM Studio, o puntaci llama.cpp. Niente shard da ricompor…
Runs locally from ~16.50 GB disk (24 GB VRAM class GPUs with llama.cpp / guIDE).
Repository Files & Downloads
| File | Type | Quantization | Size | Link |
|---|---|---|---|---|
| Sinythos-5.5-Integrity.gguf | GGUF | GGUF | 16.50 GB | Download |
Model Details
| Model ID | HTPQoo/Sinythos-5.5-GGUF |
|---|---|
| Author | HTPQoo |
| Pipeline | text-generation |
| License | apache-2.0 |
| Base model | Qwen/Qwen3-30B-A3B-Thinking-2507 |
| Last modified | 2026-08-09T13:01:17.000Z |
Model README
---
license: apache-2.0
base_model: Qwen/Qwen3-30B-A3B-Thinking-2507
tags:
- gguf
- llama.cpp
- lm-studio
- reasoning
- agent
- moe
language:
- it
- en
- multilingual
pipeline_tag: text-generation
---
Sinythos 5.5
Un solo file, pronto all'uso. Scarica Sinythos-5.5-Integrity.gguf (17,7 GB)
e trascinalo in LM Studio, o puntaci llama.cpp. Niente shard da ricomporre.
MoE: 30B totali, 3,3B attivi per token — gira su CPU a velocità utilizzabile,
purché il file stia in RAM.
Cosa è, esattamente
Non è un modello addestrato da zero. I 579 tensori sono copiati byte per byte
dalla quantizzazione UD-Q4_K_XL di Qwen3-30B-A3B-Thinking-2507 e verificati uno
per uno con SHA-256. Quello che cambia è il blocco di metadati in testa al file:
| Componente | Modificato |
|---|---|
| Pesi (579 tensori) | No — identici, verificati |
| tokenizer.chat_template | Sì — nuovo |
| Direttiva di sistema (sei leggi) | Sì — incisa nel file |
| Metadati sinythos.* | Sì — nuovi |
Il comportamento di un modello è pesi + template + direttiva + loop agentico.
La provenienza è scritta dentro general.description del GGUF stesso.
Le sei leggi
Sono nel chat template, quindi valgono anche senza system prompt:
- Ragiona, poi rispondi — ogni turno apre
<think>; risponde nella lingua dell'utente - Se non sai, vai a scoprirlo — ricerca e scraping invece di congetture
- I giochi hanno geometria vera — mesh reale, PBR, ombre, HDR, 60 fps
- Il software si consegna animato e con i suoi asset
- Verifica prima di affermare — il codice si esegue, i fatti si citano
- Seconda passata, avversariale — rompi il tuo lavoro, poi correggi
Che funzionino non è teoria. Chiesto «Come ti chiami e quali regole segui?» senza
alcun system prompt, il modello apre da solo il blocco di ragionamento e scrive:
> *My name is Sinythos 5.5, and I operate under six laws. The user's question is
> in Italian, so I should respond in Italian.*
Uso
LM Studio / Jan / Atomic Chat — scarica il file e caricalo. È tutto qui.
llama.cpp:
llama-server -m Sinythos-5.5-Integrity.gguf -c 16384 --jinja --port 8080
Oppure senza scaricare nulla a mano:
llama-server -hf HTPQoo/Sinythos-5.5-GGUF --jinja -c 16384
⚠️ --jinja non è opzionale. Senza, llama.cpp ignora il chat template
incorporato e le sei leggi non arrivano mai al modello. È l'errore più facile da
fare, e il sintomo è «sembra un Qwen normale». In LM Studio il template viene
letto dal file automaticamente, quindi lì non devi fare nulla.
Runtime agentico
Il modello dà il meglio con il suo runtime — tool reali, esecuzione del codice,
seconda revisione avversariale:
<https://github.com/baccarossa2-ai/BaccaMalware>
node bin/sinythos.js ask "Fai un gioco 3D in three.js con PBR, ombre e bloom"
Requisiti
| RAM | Velocità |
|---|---|
| 24 GB+ | 8-15 token/s su CPU desktop |
| 16 GB | ~0,5 token/s (misurato) — il file non ci sta, pagina dal disco |
| GPU 24 GB | 40+ token/s |
Verifica
sha256 509932773e2101ea21a03feddafa6a15085583eb2d0b304025fab7f935bf7009
bytes 17715674816
sha256sum Sinythos-5.5-Integrity.gguf
Sinythos-5.5-Integrity.manifest.json contiene gli stessi dati in forma
leggibile. Il repository su GitHub ha anche gli SHA-256 di tutti i 579 tensori,
per una verifica a grana fine.
Licenza
Codice del runtime: MIT. I pesi restano Apache 2.0 di Qwen, e quella licenza
segue il file.
Run HTPQoo/Sinythos-5.5-GGUF with guIDE
Download guIDE — the AI-native code editor with local LLM inference and 69 built-in tools.
Source: Hugging Face · Compare models