Model Intelligence Sheet
shannonkun/rugpt3xl-1.3b-dpo-gguf overview
Выход за пределы 128 токенов резко снижает качество, так как в этом gguf не активирован механизм sparse attention. Исправление требует принятие патча и пересоз…
Runs locally from ~2.65 GB disk (4 GB VRAM class GPUs with llama.cpp / guIDE).
Repository Files & Downloads
Model Details
| Model ID | shannonkun/rugpt3xl-1.3b-dpo-gguf |
|---|---|
| Author | shannonkun |
| Pipeline | — |
| License | mit |
| Base model | shannonkun/rugpt3xl-1.3b-sft |
| Last modified | 2026-07-23T06:07:00.000Z |
Model README
---
license: mit
language:
- ru
base_model:
- shannonkun/rugpt3xl-1.3b-sft
datasets:
- IlyaGusev/saiga_preferences
- d0rj/rlhf-reward-datasets-ru
---
Выход за пределы 128 токенов резко снижает качество, так как в этом gguf не активирован механизм sparse attention. Исправление требует принятие патча и пересоздание gguf: https://github.com/ggml-org/llama.cpp/pull/21161
Запускать лучше с шаблоном чата:
Run shannonkun/rugpt3xl-1.3b-dpo-gguf with guIDE
Download guIDE — the AI-native code editor with local LLM inference and 69 built-in tools.
Source: Hugging Face · Compare models