RockMan256/MiniCPM5-1B-enti-GGUF overview
MiniCPM5 1B enti GGUF Маленькая модель резолвер сущностей entity / intent resolver для Home Assistant. Превращает пользовательскую фразу на русском или английс…
Runs locally from ~1.07 GB disk (4 GB VRAM class GPUs with llama.cpp / guIDE).
Repository Files & Downloads
| File | Type | Quantization | Size | Link |
|---|---|---|---|---|
| MiniCPM5-1B.Q8_0.gguf | GGUF | GGUF | 1.07 GB | Download |
Model Details
| Model ID | RockMan256/MiniCPM5-1B-enti-GGUF |
|---|---|
| Author | RockMan256 |
| Pipeline | — |
| License | — |
| Base model | openbmb/MiniCPM5-1B |
| Last modified | 2026-07-13T15:05:58.000Z |
Model README
---
base_model: openbmb/MiniCPM5-1B
library_name: llama.cpp
tags:
- home-assistant
- entity-resolver
- intent-classification
- gguf
language:
- ru
- en
---
MiniCPM5-1B-enti-GGUF
Маленькая модель-резолвер сущностей (entity / intent resolver) для Home Assistant.
Превращает пользовательскую фразу на русском или английском в **домен + имя
сущности** (или интент), которые затем маппятся в вызов HA-тула на стороне
клиента.
Обучена на RockMan256/ha-ru-en-intents.
Как использовать (формат запроса и ответа)
Вход (системный промпт + запрос пользователя):
<системный промпт>
<user> включи свет в спальне
Выход (модель отвечает JSON-объектом с интентом/доменом):
{ "name": "entityResolver", "arguments": { "domain": "light", "name": "спальня" } }
или для прямых команд:
{ "name": "turn_on", "arguments": { "area": "Спальня" } }
Важно: отключение reasoning
Модель упрямо включает режим размышления (think) через свой chat-template,
даже если сервер запущен с --reasoning off. Чтобы выключить размышления,
добавь в начало системного промпта две пустые строки:
\n\n<дальше твой системный промпт>
Без этого модель выдаёт лишний текст вместо чистого JSON (146 токенов вместо 65).
Рекомендации
- Не используй как чат-бота — это классификатор, а не генератор ответов.
- Модель выдаёт domain/intent, а не готовый entity_id — нужен пост-процессинг
(резолв entity через HA API по domain + fuzzy-поиск по name).
- Примеры интентов:
light,gate,gate_open,turn_on,set_speed. - Размер 1B — быстрая, но иногда нестабильна (путает вытяжку с воротами).
Run RockMan256/MiniCPM5-1B-enti-GGUF with guIDE
Download guIDE — the AI-native code editor with local LLM inference and 69 built-in tools.
Source: Hugging Face · Compare models