🚨 Yerel yapay zeka ile ilgili #1 sorun artık çözüldü. Donanımınızı kontrol eden ve hangi modellerin çalışacağını söyleyen llmfit adında yeni bir araç var, bir şey indirmeden önce size söyleniyor. Yani tahmin etmek ve hafızadan çıkan hatalar yapmak yerine... Makinenize göre sıralanmış bir liste veriyor. Ne yapar (tek komutta): → kurulumunuzu tarar (RAM / CPU / GPU / VRAM) → modelleri kalite, hız, uyum ve bağlam açısından değerlendirir → en iyi kuantizasyonu otomatik olarak seçer → neyin ideal, neyin iyi ve sınırda olduğunu etiketler En çok sevdiğim kısım: MoE modellerini doğru şekilde kullanıyor. Örnek: Mixtral 8x7B'nin toplam parametresi ~46.7B var, ancak sadece ~12.9B token başına aktiftir ve llmfit bunu hesablıyor (birçok araç hâlâ hesablamıyor). %100 Açık kaynak.