michka/Melenchon-Nemo-12B-GGUF overview
Melenchon Nemo 12B GGUF Modèle de langage fine tuné pour parler comme Jean Luc Mélenchon, quantifié en GGUF pour inférence locale avec llama.cpp. Modèle d'orig…
Runs locally from ~6.96 GB disk (8 GB VRAM class GPUs with llama.cpp / guIDE).
Repository Files & Downloads
Model Details
Model README
---
language:
- fr
license: other
tags:
- gguf
- mistral
- fine-tuned
- french
- politics
- melenchon
base_model: mistralai/Mistral-Nemo-12B
datasets:
- melenchon.fr
library_name: llama.cpp
---
Melenchon-Nemo-12B-GGUF
Modèle de langage fine-tuné pour parler comme Jean-Luc Mélenchon, quantifié en GGUF pour inférence locale avec llama.cpp.
Modèle d'origine
Mistral-Nemo-12B fine-tuné avec QLoRA sur des textes politiques.
- Base : mistralai/Mistral-Nemo-12B
- Fine-tune : michka/Melenchon-Nemo-12B
Données d'entraînement
Le modèle a été entraîné sur l'intégralité des articles du blog de Jean-Luc Mélenchon depuis 2014 :
- Source : melenchon.fr — billets de blog, notes politiques, discours
- Période : 2014 — 2026
- Volume : ~2 500 articles
Fichiers disponibles
| Fichier | Quantification | Taille | Usage recommandé |
|---------|---------------|--------|-----------------|
| Melenchon-Nemo-12B-Q4_K_M.gguf | Q4_K_M | 7.0 GB | Usage général, bon équilibre qualité/taille |
| Melenchon-Nemo-12B-Q8_0.gguf | Q8_0 | 12.1 GB | Qualité maximale, VRAM ≥ 16 GB recommandée |
Utilisation avec llama.cpp
# Q4_K_M (7.0 GB)
llama-cli -m Melenchon-Nemo-12B-Q4_K_M.gguf -p "Bonjour Jean-Luc, que penses-tu de"
# Q8_0 (12.1 GB)
llama-cli -m Melenchon-Nemo-12B-Q8_0.gguf -p "Explique-moi ta vision de la VIe République"
Prompt format
Le modèle utilise le format Mistral-Nemo :
<|user|>
Ta question ici
<|assistant|>
Licence
Modèle dérivé de Mistral-Nemo-12B. Voir les conditions de la licence originale.
Try it online
---
Run michka/Melenchon-Nemo-12B-GGUF with guIDE
Download guIDE — the AI-native code editor with local LLM inference and 69 built-in tools.
Source: Hugging Face · Compare models