GraySoft
Projects Models Compare Cloud benchmarks FAQ Download guIDE →
Model Intelligence Sheet

RockMan256/MiniCPM5-1B-enti-GGUF overview

MiniCPM5 1B enti GGUF Маленькая модель резолвер сущностей entity / intent resolver для Home Assistant. Превращает пользовательскую фразу на русском или английс…

llama.cppggufhome-assistantentity-resolverintent-classificationruenbase_model:openbmb/MiniCPM5-1Bbase_model:quantized:openbmb/MiniCPM5-1Bendpoints_compatibleregion:usconversational

Runs locally from ~1.07 GB disk (4 GB VRAM class GPUs with llama.cpp / guIDE).

Downloads
0
Likes
0
Pipeline

Repository Files & Downloads

1 GGUF files detected
Direct downloads for local inference
FileTypeQuantizationSizeLink
MiniCPM5-1B.Q8_0.ggufGGUFGGUF1.07 GBDownload

Model Details

Model IDRockMan256/MiniCPM5-1B-enti-GGUF
AuthorRockMan256
Pipeline
License
Base modelopenbmb/MiniCPM5-1B
Last modified2026-07-13T15:05:58.000Z

Model README

---

base_model: openbmb/MiniCPM5-1B

library_name: llama.cpp

tags:

- home-assistant

- entity-resolver

- intent-classification

- gguf

language:

- ru

- en

---

MiniCPM5-1B-enti-GGUF

Маленькая модель-резолвер сущностей (entity / intent resolver) для Home Assistant.

Превращает пользовательскую фразу на русском или английском в **домен + имя

сущности** (или интент), которые затем маппятся в вызов HA-тула на стороне

клиента.

Обучена на RockMan256/ha-ru-en-intents.

Как использовать (формат запроса и ответа)

Вход (системный промпт + запрос пользователя):

<системный промпт>
<user> включи свет в спальне

Выход (модель отвечает JSON-объектом с интентом/доменом):

{ "name": "entityResolver", "arguments": { "domain": "light", "name": "спальня" } }

или для прямых команд:

{ "name": "turn_on", "arguments": { "area": "Спальня" } }

Важно: отключение reasoning

Модель упрямо включает режим размышления (think) через свой chat-template,

даже если сервер запущен с --reasoning off. Чтобы выключить размышления,

добавь в начало системного промпта две пустые строки:

\n\n<дальше твой системный промпт>

Без этого модель выдаёт лишний текст вместо чистого JSON (146 токенов вместо 65).

Рекомендации

  • Не используй как чат-бота — это классификатор, а не генератор ответов.
  • Модель выдаёт domain/intent, а не готовый entity_id — нужен пост-процессинг

(резолв entity через HA API по domain + fuzzy-поиск по name).

  • Примеры интентов: light, gate, gate_open, turn_on, set_speed.
  • Размер 1B — быстрая, но иногда нестабильна (путает вытяжку с воротами).

Run RockMan256/MiniCPM5-1B-enti-GGUF with guIDE

Download guIDE — the AI-native code editor with local LLM inference and 69 built-in tools.

Download guIDE → · Browse 524k+ models · Compare models

Source: Hugging Face · Compare models