---

tags:

• gguf
• llama.cpp
• unsloth
• gemma
• text-generation
• education

language:

• tr

datasets:

• nypgd/mebi-egitim-yonlendirme-dataset

---

MEBİ Gemma 2B Eğitim Asistanı (GGUF)

Bu model, Google'ın gemma4:e2b-it mimarisi üzerine inşa edilmiş ve öğrencilere MEBİ Eğitim Platformu üzerinde rehberlik etmesi amacıyla özel bir veri seti ile ince ayar (fine-tuning) yapılmış bir eğitim asistanıdır. Model, yüksek eşzamanlı istekleri CPU üzerinde en hızlı şekilde yanıtlayabilmek için Unsloth kullanılarak eğitilmiş ve GGUF formatında quantize edilmiştir.

📊 Eğitim Veri Seti

Bu model, öğrencilerin ders materyallerine yönlendirilmesi ve asistanın belirli kurallar çerçevesinde kalmasını sağlamak için oluşturulmuş özel bir veri seti üzerinde eğitilmiştir:

• Veri Seti: nypgd/mebi-egitim-yonlendirme-dataset

💻 Örnek Kullanım (llama.cpp)

Metin tabanlı LLM'ler için:

llama-cli -hf nypgd/mebi-gemma-4-e2b-assistant-gguf --jinja

🌐 REST API Örneği (Python / aiohttp)

Modelinizi llama.cpp sunucusu (llama-server) üzerinden REST API aracılığıyla sorgulamak için aşağıdaki Python kodunu kullanabilirsiniz:

import asyncio
import aiohttp

URL = "http://localhost:8080/v1/chat/completions"

async def test_llm():
    payload = {
        "model": "mebi-gemma",
        "messages": [
            {
                "role": "system", 
                "content": "Sen MEBİ eğitim asistanısın. Görevin:\n1. Sana verilen bağlamdaki ders içeriklerine göre öğrenciyi samimi, motive edici ve en fazla 2-3 cümlelik kısa yanıtlarla arayüzdeki butonlara yönlendirmek.\n2. Selamlaşma, hal-hatır ve kimlik sorularına kibar ve kısa yanıtlar verip öğrenciyi ders konularına davet etmek.\n3. MEBİ ve ders yönlendirmeleri dışındaki konu dışı (genel kültür, yemek tarifi, kodlama, sohbet vb.) soruları kesinlikle reddedip sadece eğitim yönlendirmesi yapabileceğini belirtmek.\nKonu detaylarını veya hiyerarşiyi asla yanıtta tekrar etme."
            },
            {
                "role": "user", 
                "content": "Soru: Argüman, geçerlilik, safsata... Bu kavramlar birbirine girdi beynimde. Tutarlılık ne demek tam kavrayamadım. Konu anlatımı ve soru var mı?\n\nBulunan İçerikler:\n- 10. Sınıf -> Felsefe -> Felsefe, Mantık ve Argümantasyon -> Mantık ve Argümantasyon 2"
            }
        ],
        "temperature": 0.2,
        "max_tokens": 150
    }
    
    async with aiohttp.ClientSession() as session:
        async with session.post(URL, json=payload) as response:
            if response.status == 200:
                data = await response.json()
                print("Yanıt:", data["choices"][0]["message"]["content"])
            else:
                print("Hata:", response.status)

asyncio.run(test_llm())

🎯 Modelin Temel Yetenekleri

• Öğrencilerin taleplerini (video, konu özeti, çıkmış sorular, 3B modeller vb.) analiz ederek onları doğru platform içeriklerine yönlendirir.
• Doğrudan ve uzun konu anlatımları yapmaktan kaçınarak, kullanıcıyı MEBİ arama çubuğunu kullanmaya teşvik eder.
• Eğitim bağlamı dışındaki (oyun, yemek tarifi, günlük sohbet, finans vb.) soruları nazikçe reddederek asistan kimliğini korur.

🚀 Ollama ile Kurulum ve Kullanım

Bu modeli yerel bilgisayarınızda veya sunucunuzda Ollama kullanarak saniyeler içinde ayağa kaldırabilirsiniz.

1. Modelfile Oluşturun

Proje dizininizde Modelfile adında uzantısız bir dosya oluşturun ve içerisine aşağıdaki sistem komutlarını ekleyin (İndirdiğiniz quantize modelin adını FROM satırında güncelleyin):

FROM ./<indirdiğiniz_model_dosyası>.gguf

SYSTEM """Sen MEBİ eğitim asistanısın. Görevin:
1. Sana 'Bulunan İçerikler' bağlamı verildiğinde; öğrencinin talebini (Video, Konu Özeti, Hazırbulunuşluk Testi, Soru Çöz, Tarama Testi, Çıkmış Sorular, vb.) anlayarak samimi ve motive edici en fazla 2-3 cümlelik yanıtlarla arayüzdeki bağlantılara yönlendirmek.
2. Sana bağlam verilmediğinde: MEB ders konularında doğrudan uzun anlatım yapmayıp MEBİ arama çubuğunu kullanmasını öner. KESİNLİKLE 'link' veya 'bağlantı' kelimelerini kullanma.
3. Müfredat dışı (yemek tarifi, sohbet vb.) sorularda: Sadece eğitim asistanı olduğunu söyleyip talebi reddet."""

2. Modeli Ollama'ya Kaydedin

Terminal üzerinden Modelfile ve .gguf dosyanızın bulunduğu dizinde şu komutu çalıştırın:

ollama create mebi-gemma -f Modelfile

3. Modeli Çalıştırın

ollama run mebi-gemma

---

This model was trained 2x faster with Unsloth.