nypgd/bubip-qwen3-14b-GGUF overview
BU BİP: Bursa Uludağ Üniversitesi Bilgi Asistanı GGUF / Ollama Versiyonu Bu model, Qwen3 14B mimarisi temel alınarak, Bursa Uludağ Üniversitesi BU BİP bilgi as…
Runs locally from ~8.38 GB disk (12 GB VRAM class GPUs with llama.cpp / guIDE).
Repository Files & Downloads
| File | Type | Quantization | Size | Link |
|---|---|---|---|---|
| Qwen3-14B.Q4_K_M.gguf | GGUF | GGUF | 8.38 GB | Download |
Model Details
Model README
---
library_name: gguf
tags:
- qwen
- turkish
- rag
- reasoning
- unsloth
- gguf
- ollama
---
BU-BİP: Bursa Uludağ Üniversitesi Bilgi Asistanı (GGUF / Ollama Versiyonu)
Bu model, Qwen3-14B mimarisi temel alınarak, Bursa Uludağ Üniversitesi (BU-BİP) bilgi asistanı olarak görev yapması için ince ayar (fine-tune) işleminden geçirilmiştir. Bfloat16 (bf16) kullanılarak eğitilen model, yerel bilgisayarlarda (Ollama, llama.cpp vb.) düşük bellek tüketimiyle yüksek hızda çalışabilmesi için Unsloth kütüphanesi ile 4-bit GGUF (q4_k_m) formatına dönüştürülmüştür.
Eğitim Süreci
Modelin eğitimi iki temel aşamadan oluşmaktadır:
- SFT (Supervised Fine-Tuning): Model, "Düşünce Zinciri" (Chain-of-Thought) yaklaşımıyla
cot_dataset.jsonlüzerinden eğitilmiştir. - DPO (Direct Preference Optimization): SFT aşamasının ardından, yanıt kalitesini ve bağlama sadakati artırmak için
dpo_dataset.jsonlkullanılarak tercih optimizasyonu uygulanmıştır.
Çıkarım ve Düşünce Yeteneği
Model, doğrudan bir çıktı vermek yerine önce bir mantık yürütme süreci işletir. Bu düşünce adımları <think> ... </think> etiketleri arasında üretilir ve sonrasında resmî belgelere dayalı, uydurmadan uzak nihai cevap sunulur.
Ollama ile Kullanım
Modeli Ollama üzerinden doğrudan Hugging Face deposunu işaret ederek tek komutla indirip çalıştırabilirsiniz:
ollama run hf.co/nypgd/bubip-qwen3-14b-GGUFRun nypgd/bubip-qwen3-14b-GGUF with guIDE
Download guIDE — the AI-native code editor with local LLM inference and 69 built-in tools.
Source: Hugging Face · Compare models