LLM Donanım ve Maliyet Mimarı

Bir model ve donanım seçimini somut çıkarım ve ince ayar rakamlarına dönüştüren açık kaynak bir hesaplayıcı. Adım adım bir sihirbaz; model, kuantizasyon, motor, GPU ve iş yükü seçimlerini gezdirir, ardından VRAM uyumu, token/sn, gecikme, aylık maliyet ve TCO sonuçlarını raporlar.

Öne çıkanlar

• Yüzlerce açık kaynak LLM (DeepSeek, Llama, Qwen, Gemma, Mistral, Phi, Türkçe modeller) ve 30 GPU ön ayarı (NVIDIA, AMD MI300X, Apple Silicon).
• Kuant/motor/GPU uyumluluk kurallarıyla 7 çıkarım motoru (vLLM, llama.cpp, TensorRT-LLM, SGLang, TGI, Ollama, MLX).
• Kendi sunucun ile API arasındaki başabaş noktası analizi ve RunPod, Lambda, Modal'dan çekilen canlı bulut fiyatları.
• Unsloth hızlandırmasıyla QLoRA, LoRA, tam ince ayar ve DPO/ORPO tahminleri.
• Paylaşılabilir senaryo URL'leri, senaryo yöneticisi, TR/EN yerelleştirme ve belgelenmiş metodoloji.

React 19, Vite, Tailwind CSS v4, Express, TypeScript ve PostgreSQL ile geliştirildi.