GraySoft
Projects Models About FAQ Contact Download guIDE →

agnuxo/agente-gpt-qwen2.5-3b-instruct-spanish_english_gguf_4bit Q4_K_M GGUF - Free GGUF Download is indexed on GraySoft with repository links, GGUF quant files, and Hugging Face metadata. This page helps you pick a local model for guIDE or other runtimes. See related models in the same shard below.

Model Intelligence Sheet

agnuxo/agente-gpt-qwen2.5-3b-instruct-spanish_english_gguf_4bit overview

This qwen2 model was trained 2x faster with Unsloth and Huggingface's TRL library. # Lector y Debatidor de Documentos 📚🗣️ Este modelo es parte de un sistema de lectura y debate de documentos que utiliza dos modelos de lenguaje para generar explicaciones y simular debates sobre el contenido de documentos PDF y TXT.

transformersggufqwen2text-generation-inferenceunslothtrlsftenesdataset:Agnuxo/Agente-Directorlicense:apache-2.0endpoints_compatibleregion:usconversational
agnuxo/agente-gpt-qwen2.5-3b-instruct-spanish_english_gguf_4bit visual
Downloads
148
Likes
0
Pipeline
Library
transformers
Visibility
Public
Access
Open

Repository Files & Downloads

1 files detected
Direct downloads for all repository files
FileTypeQuantizationSizeLink
unsloth.Q4_K_M.gguf GGUF Q4_K_M 1.96 GB Download

Model Details Live

Model Slug
agnuxo/agente-gpt-qwen2.5-3b-instruct-spanish_english_gguf_4bit
Author
Agnuxo
Pipeline Task
Library
transformers
Created
2024-09-20
Last Modified
2024-09-20
Gated
No
Private
No
HF SHA
1caef991a1bdb90f1d9c88e5baff43f7b7501f64
License
apache-2.0
Language
en, es
Base Model
unsloth/qwen2.5-3b-instruct-bnb-4bit

Metadata Inspector

Normalized metadata (stored in metadata_json)
{
  "metadata": {},
  "card_data": {
    "base_model": "unsloth/qwen2.5-3b-instruct-bnb-4bit",
    "language": [
      "en",
      "es"
    ],
    "license": "apache-2.0",
    "tags": [
      "text-generation-inference",
      "transformers",
      "unsloth",
      "qwen2",
      "trl",
      "sft"
    ],
    "datasets": [
      "Agnuxo/Agente-Director"
    ],
    "frontmatter": {
      "base_model": "unsloth/qwen2.5-3b-instruct-bnb-4bit",
      "language": [
        "en",
        "es"
      ],
      "license": "apache-2.0",
      "tags": [
        "text-generation-inference",
        "transformers",
        "unsloth",
        "qwen2",
        "trl",
        "sft"
      ],
      "datasets": [
        "Agnuxo/Agente-Director"
      ]
    },
    "hero_image_url": "https://github.githubassets.com/assets/GitHub-Mark-ea2971cee799.png",
    "summary": "This qwen2 model was trained 2x faster with Unsloth and Huggingface's TRL library.  # Lector y Debatidor de Documentos 📚🗣️ Este modelo es parte de un sistema de lectura y debate de documentos que utiliza dos modelos de lenguaje para generar explicaciones y simular debates sobre el contenido de documentos PDF y TXT.",
    "quick_links": [],
    "benchmark_table_html": "",
    "readme_markdown": "---\nbase_model: unsloth/qwen2.5-3b-instruct-bnb-4bit\nlanguage:\n- en\n- es\nlicense: apache-2.0\ntags:\n- text-generation-inference\n- transformers\n- unsloth\n- qwen2\n- trl\n- sft\ndatasets:\n- Agnuxo/Agente-Director\n---\n\n# Uploaded model\n\n[<img src=\"https://github.githubassets.com/assets/GitHub-Mark-ea2971cee799.png\" width=\"100\"/><img src=\"https://github.githubassets.com/assets/GitHub-Logo-ee398b662d42.png\" width=\"100\"/>](https://github.com/Agnuxo1)\n- **Developed by:** [Agnuxo](https://github.com/Agnuxo1/Explicaci-n-Debate-PDF)\n- **Developed by:** Agnuxo\n- **License:** apache-2.0\n- **Finetuned from model :** unsloth/qwen2.5-7b-bnb-4bit\n\nThis qwen2 model was trained 2x faster with [Unsloth](https://github.com/unslothai/unsloth) and Huggingface's TRL library.\n\n[<img src=\"https://raw.githubusercontent.com/unslothai/unsloth/main/images/unsloth%20made%20with%20love.png\" width=\"200\"/>](https://github.com/unslothai/unsloth)\n\n\n# Lector y Debatidor de Documentos 📚🗣️\n\nEste modelo es parte de un sistema de lectura y debate de documentos que utiliza dos modelos de lenguaje para generar explicaciones y simular debates sobre el contenido de documentos PDF y TXT.\n\n## Descripción del Modelo\n\nEl sistema utiliza dos modelos principales:\n\n1. **Agente-GPT (Profesor)**: `Agnuxo/Agente-GPT-Qwen-2.5-7B-Spanish_16bit`\n   - Basado en Qwen 2.5 7B, adaptado para español\n   - Función: Explicar documentos y generar preguntas para el debate\n\n2. **Agente-Llama (Periodista)**: `Agnuxo/Agente-Llama-3.1-Spanish_16bit`\n   - Basado en Llama 3.1, adaptado para español\n   - Función: Responder preguntas y participar en el debate con un estilo periodístico\n\n## Uso Previsto\n\nEste modelo está diseñado para:\n- Analizar y explicar documentos en español\n- Generar debates simulados sobre el contenido de los documentos\n- Proporcionar una experiencia interactiva de aprendizaje y discusión\n\n## Limitaciones y Sesgos\n\n- Los modelos están optimizados para el idioma español y pueden tener un rendimiento limitado en otros idiomas.\n- La calidad del debate depende de la calidad y relevancia del documento de entrada.\n- Pueden existir sesgos inherentes a los datos de entrenamiento utilizados.\n\n## Consideraciones Éticas\n\n- El sistema no debe utilizarse para generar o propagar información falsa o engañosa.\n- Los usuarios deben ser conscientes de que las respuestas son generadas por IA y pueden requerir verificación humana.\n\n## Métricas de Evaluación\n\n- Perplexidad: [Valor]\n- Precisión en tareas de comprensión de lectura: [Valor]\n\n## Entrenamiento\n\nLos modelos fueron fine-tuned utilizando el dataset `Agnuxo/Spanish-Debate-Dataset`, que contiene:\n- Transcripciones de debates en español\n- Artículos periodísticos y académicos\n- Resúmenes de documentos en diversos campos\n\n# Explicación-Debate-PDF-VOZ\nPrograma en local para subir documentos PDF o TXT en cualquier idioma, con Opción de consuta, explicación y Debate sobre el documento entre dos LLM GPT y Llama, con salida de voz en Español.\n\n## 🖥️ Interfaz de Usuario\n\nLa interfaz gráfica incluye:\n\n- 💬 Área de chat para mostrar el debate\n- 🎛️ Controles de velocidad de voz\n- 🔢 Ajustes de límite de tokens\n- 📂 Botón para cargar documentos\n- ▶️ Botones para iniciar explicación o debate\n\n\n## 🧠 Modelos de IA\n\nEl programa utiliza dos modelos de lenguaje:\n\n- 🧑‍🏫 **Profesor-GPT**: Basado en \"GPT\"\n- 👩‍🎤 **Periodista LLAMA**: Basado en \"Meta-Llama-3.1-8B\"\n\n\n## 🎙️ Síntesis de Voz\n\nSe utilizan dos modelos de TTS:\n\n- 🇪🇸 Modelo español para el Profesor-GPT\n- 🇦🇷 Modelo con acento argentino para la Periodista LLAMA\n\n\n## 📝 Notas Adicionales\n\n- El programa convierte números y fórmulas a texto para mejorar la síntesis de voz.\n- Se incluyen controles para ajustar la velocidad de reproducción de voz.\n- La interfaz permite una fácil navegación y control del proceso de lectura y debate.\n\n\n---\n\nDesarrollado por [Francisco Angulo de Lafuente]\n\n# 📚 Lector y Debatidor de Documentos\n\n![Banner](https://github.com/Agnuxo1/Explicaci-n-Debate-PDF)\n\n## 🌟 Características Principales\n\n- 📖 Lectura de documentos PDF y TXT\n- 🗣️ Explicación del contenido en español\n- 🎭 Debate simulado entre dos IA\n- 🔊 Síntesis de voz para las respuestas\n- 🖥️ Interfaz gráfica moderna y fácil de usar\n\n## 🛠️ Tecnologías Utilizadas\n\n- Python\n- PyQt5 para la interfaz gráfica\n- Transformers para modelos de lenguaje\n- TTS para síntesis de voz\n- PyPDF2 para lectura de PDFs\n\n## 🚀 Cómo Funciona\n\nEl programa ofrece una experiencia interactiva de lectura y debate de documentos:\n\n1️⃣ **Carga de Documentos**: Sube fácilmente archivos PDF o TXT.\n\n2️⃣ **Explicación del Contenido**: Una IA explica el documento de forma clara y concisa.\n\n3️⃣ **Debate Simulado**: Dos IA, un \"Profesor-GPT\" y una \"Periodista LLAMA\", debaten sobre el contenido.\n\n4️⃣ **Síntesis de Voz**: Las respuestas se convierten en audio para una experiencia más inmersiva.\n\n5️⃣ **Interacción del Usuario**: Participa en el debate añadiendo tus propios comentarios o preguntas.\n\n## Citación\n\nSi utilizas este modelo en tu investigación, por favor cita:\n",
    "related_quantizations": []
  },
  "tags": [
    "transformers",
    "gguf",
    "qwen2",
    "text-generation-inference",
    "unsloth",
    "trl",
    "sft",
    "en",
    "es",
    "dataset:Agnuxo/Agente-Director",
    "license:apache-2.0",
    "endpoints_compatible",
    "region:us",
    "conversational"
  ],
  "likes": 0,
  "downloads": 148,
  "gated": false,
  "private": false,
  "last_modified": "2024-09-20T11:44:35.000Z",
  "created_at": "2024-09-20T11:28:12.000Z",
  "pipeline_tag": "",
  "library_name": "transformers"
}
Source payload excerpt (from Hugging Face API)
{
  "_id": "66ed5c4ce55a7b01b3132af0",
  "id": "Agnuxo/Agente-GPT-Qwen2.5-3B-Instruct-Spanish_English_GGUF_4bit",
  "modelId": "Agnuxo/Agente-GPT-Qwen2.5-3B-Instruct-Spanish_English_GGUF_4bit",
  "sha": "1caef991a1bdb90f1d9c88e5baff43f7b7501f64",
  "createdAt": "2024-09-20T11:28:12.000Z",
  "lastModified": "2024-09-20T11:44:35.000Z",
  "author": "Agnuxo",
  "downloads": 148,
  "likes": 0,
  "gated": false,
  "private": false,
  "pipeline_tag": "",
  "library_name": "transformers",
  "siblings_count": 4
}