Düzce Staj Asistanı (Gemma 4 2B, LoRA)

Düzce Üniversitesi Bilgisayar Mühendisliği staj sürecine ilişkin soruları yanıtlayan, ince ayarlı bir Gemma 4 2B dil modeli. Amaç, temel model ile LoRA ile ince ayar uygulanmış modeli staj soruları üzerinde karşılaştırmaktı.

Öne çıkanlar

• Bölümün staj SSS'lerinden ve sentetik örneklerden 360 eğitim, 140 test soru-cevap çifti oluşturulup JSONL formatına dönüştürüldü.
• Unsloth üzerinde LoRA (r=16, alpha=16) ile 15 GB T4 GPU'da eğitildi; 5,1B parametrenin yaklaşık 25M'i (~%0,49) eğitildi.
• Temel model ile LoRA, exact match ve OpenAI tabanlı jüri ile değerlendirildi: LoRA 140 sorunun %85'ini kazandı (ortalama jüri puanı 81,14'e karşı 52,39).
• Veri seti ve LoRA adaptörü Hugging Face'te yayınlandı.