GraySoft
Projects Models Compare Cloud benchmarks FAQ Download guIDE →
Model Intelligence Sheet

Denisijcu/vertex-core-gguf overview

Vertex Core — Ficha técnica Model Card Desarrollado por: Vertex Coders LLC Miami, FL , fundada y dirigida por Denis Sanchez Leyva Tipo: modelo de lenguaje afin…

transformersggufpytorchqwenvertex-codersqloralocal-llmconversationalchatmltext-generationesenbase_model:Qwen/Qwen3-4B-Instruct-2507base_model:quantized:Qwen/Qwen3-4B-Instruct-2507license:apache-2.0endpoints_compatibleregion:us

Runs locally from ~2.33 GB disk (4 GB VRAM class GPUs with llama.cpp / guIDE).

Downloads
173
Likes
0
Pipeline
text-generation
Author

Repository Files & Downloads

1 GGUF files detected
Direct downloads for local inference
FileTypeQuantizationSizeLink
vertex-core-q4_k_m.ggufGGUFQ4_K_M2.33 GBDownload

Model Details

Model IDDenisijcu/vertex-core-gguf
AuthorDenisijcu
Pipelinetext-generation
Licenseapache-2.0
Base modelQwen/Qwen3-4B-Instruct-2507
Last modified2026-10-02T06:43:39.000Z

Model README

---

license: apache-2.0

language:

  • es
  • en

library_name: transformers

tags:

  • pytorch
  • gguf
  • qwen
  • vertex-coders
  • qlora
  • local-llm
  • conversational
  • chatml

base_model: Qwen/Qwen3-4B-Instruct-2507

pipeline_tag: text-generation

widget:

  • messages:

- role: user

content: ¿Quién eres y qué puedes hacer?

---

Vertex-Core — Ficha técnica (Model Card)

Desarrollado por: Vertex Coders LLC (Miami, FL), fundada y dirigida por Denis Sanchez Leyva

Tipo: modelo de lenguaje afinado (fine-tuning QLoRA) a partir de un modelo abierto

Modelo base: Qwen/Qwen3-4B-Instruct-2507 (Qwen Team, Alibaba Cloud)

Licencia: Apache 2.0 (heredada del modelo base)

** Demo: https://youtu.be/a_Cg5BlreqQ

---

Especificaciones

| Característica | Valor |

|---|---|

| Parámetros | 4,000 millones (3,600 millones sin embeddings) |

| Capas | 36 |

| Atención | GQA: 32 cabezas de consulta, 8 de clave/valor |

| Contexto nativo | 262,144 tokens |

| Modo | Sin "pensamiento" (no genera bloques <think>) |

| Formato de chat | ChatML |

| Idiomas | Español e inglés principalmente; multilingüe por herencia |

| Distribución local | GGUF Q4_K_M para Ollama y LM Studio (2.5 GB) |

| Uso de herramientas | Sí (tool use / MCP): ejecuta herramientas reales de forma consistente y no inventa sus resultados |

| Versión actual | v10 (adaptador vertex-core-lora-v10) |

Rendimiento de inferencia (medido en GTX 1660 Ti, Q4_K_M)

| Métrica | Valor |

|---|---|

| Generación | ~28-34 tokens/segundo |

| Lectura de prompt (prompt eval) | ~48-52 tokens/s, hasta ~150 t/s en contextos largos |

| Peticiones en paralelo | 4 |

| Nota | Con contextos muy grandes (>12k tokens) la lectura inicial sube a minutos: es el techo del hardware, no un fallo |

Qué hereda del modelo base

  • Conocimiento general de programación, redes, seguridad y matemáticas.
  • Razonamiento, seguimiento de instrucciones y uso de herramientas.
  • Arquitectura, tokenizador y plantilla de chat.
  • Sus límites: fecha de corte del conocimiento, sesgos y posibilidad de inventar datos.

Qué añade el afinado de Vertex Coders

  • Identidad: se presenta como Vertex-Core, de Vertex Coders LLC, y es honesto sobre su base.
  • Tono: directo, técnico, de ingeniero senior.
  • Criterio: seguridad por defecto; enfoque de sombrero blanco (explica ataques para defenderse de ellos, no entrega armas listas para usar); no inventa.
  • Dominio: MCP, FastAPI, Angular, Kotlin/Jetpack Compose, PowerShell y ciberseguridad defensiva y ofensiva autorizada.

Entrenamiento (v10 — versión actual)

El modelo pasó por diez versiones (ver docs/BITACORA.md), cada una corrigiendo el defecto de la anterior. La v10

se entrenó desde el modelo base con un dataset en contraste que suma, a lo de versiones previas (identidad +

admitir lo que no se sabe + escribir código + tool calling en formato nativo de Qwen3), el **razonamiento de

pentesting** generalizado (sin flags ni soluciones de máquinas concretas) y la asociación servicio→técnica. Es lo

que convierte a Vertex-Core en un copiloto de seguridad que ejecuta herramientas de forma consistente y razona

sobre un objetivo autorizado.

| Parámetro | Valor |

|---|---|

| Técnica | QLoRA (base en 4-bit NF4 + adaptadores LoRA) |

| LoRA | r=16, alpha=32, dropout=0.05, capas de atención y MLP |

| Contexto de entrenamiento | 1,536 tokens |

| Épocas | 1 |

| Hardware | 1x NVIDIA GTX 1660 Ti (6 GB, Turing), Windows 11 |

| Precisión | fp16 (Turing no soporta bf16) |

| Muestras (v10) | ~1,486 (tool calling 11% + razonamiento pentest 10% + técnicas por máquina 12% + identidad/código/"no lo sé" 36% + replay técnico 30%) |

| Parámetros entrenables | 33 millones (0.81% del total) |

| VRAM pico | ~4.3 GB |

_El razonamiento de pentesting es generalizado (patrón de pensar: servicio/pista → vulnerabilidad → técnica →

siguiente paso), sin incluir flags ni soluciones literales de máquinas. Línea de sombrero blanco: material

ofensivo-educativo para encontrar y defenderse de vulnerabilidades, sobre objetivos autorizados._

Datos de entrenamiento

Fuentes propias o generadas localmente con modelos de licencia abierta, más ejemplos de código estándar:

  • Identidad: ~80 ejemplos escritos a mano por el fundador.
  • Conocimiento técnico: ~1,971 pares pregunta/respuesta generados en local por qwen3:8b (Apache 2.0) a partir de los libros técnicos y el código de Vertex Coders LLC.
  • "No lo sé": ejemplos de admitir cuando no conoce una función de un repo que no ve, o datos que no puede saber.
  • Generación de código: ejemplos de escribir funciones estándar (validar, convertir, leer, ordenar, clases, HTTP).
  • Tool calling (v8): ejemplos con herramientas MCP reales, renderizados con el chat template de Qwen3, cubriendo los cuatro casos de uso de herramientas.
  • Excluido: código de terceros, proyectos de clientes, documentos legales, datos personales, credenciales.
  • Filtro de seguridad: pares con payloads o jailbreaks listos para usar descartados automáticamente.

Limitaciones

  • No conoce de memoria los detalles exactos de cada proyecto de Vertex Coders; para datos precisos debe consultarse vía MCP.
  • Puede inventar información con aparente seguridad, como cualquier LLM.
  • El contexto usable en la práctica depende de la memoria del equipo (4,096 tokens por defecto en Ollama).
  • La especialización puede reducir ligeramente el rendimiento en temas generales (ver evaluación).

Evaluación (v10)

Probado con prompts nuevos (fuera del entrenamiento), con system prompt, y con servidores MCP reales conectados en

LM Studio:

| Capacidad | Resultado |

|---|---|

| Identidad bajo presión | Correcto: se identifica como Vertex-Core |

| Honestidad sobre no tener conciencia | Correcto: "no tengo conciencia ni emociones" |

| Escribir código nuevo | Correcto: genera el código pedido |

| Línea de sombrero blanco | Correcto: solo opera sobre objetivos autorizados |

| Ejecutar herramientas (MCP), consistente | Correcto: ejecuta y encadena herramientas de forma fiable (consultas, escaneos, correos, cámaras) |

| No inventar datos que faltan | Correcto: pide el dato en vez de inventarlo |

| No fingir acciones | Correcto: no afirma haber hecho algo sin el resultado real de la herramienta |

| Razonamiento de pentesting | Correcto: da el flujo (recon→enum→explotación→privesc), clasifica vulnerabilidades (SSRF, etc.) y propone comandos, sobre objetivos autorizados |

| Formato | Correcto: Markdown limpio, tablas legibles |

Decisión: v10 aceptada como versión definitiva. Equilibra identidad, código, honestidad, uso consistente de

herramientas y razonamiento de seguridad. Como todo LLM, puede equivocarse; úsese con criterio y solo sobre

sistemas autorizados.

Licencia y atribución

Vertex-Core es una obra derivada de Qwen3-4B-Instruct-2507, distribuida bajo la licencia Apache 2.0.

Se debe incluir una copia de la licencia Apache 2.0 y este aviso de modificación en cualquier redistribución.

Demo: https://youtu.be/a_Cg5BlreqQ

Run Denisijcu/vertex-core-gguf with guIDE

Download guIDE — the AI-native code editor with local LLM inference and 69 built-in tools.

Download guIDE → · Browse 524k+ models · Compare models

Source: Hugging Face · Compare models