Ollama'ya karar modelleri geldi: yerelde sınıflandırma ve puanlama
Ollama'nın deneme sürümü 0.35, metin yazmak yerine seçim, olasılık ve puan döndüren karar modellerini destekliyor. Bespoke Labs'in Nimble ve Together AI'ın Tev1 modelleri, destek taleplerini ayırmak ya da içerik etiketlemek gibi işleri kendi bilgisayarınızda yapabiliyor.
Ollama, 28 Eylül 2026'da yayımladığı 0.35 deneme sürümüyle karar modellerini desteklemeye başladı. Bu modeller uzun bir metin yazmıyor; kendilerine sorulan soruya bir seçim, bir olasılık ya da bir puan döndürüyor. Ollama'nın örnek verdiği kullanım alanları destek taleplerini doğru ekibe yönlendirmek, bir isteği uygun modele göndermek ve içerik sınıflandırmak.
Karar modeli nasıl çalışıyor?
Yeni /v1/systemone adresi, TypeSafe adlı firmanın Jev API'sini örnek alıyor. Modele değerlendirilecek metin ve en fazla 64 soru gönderiliyor. Üç soru türü var: choice seçeneklerden birini seçip her birine olasılık veriyor, noul bir koşulun doğru olma olasılığını döndürüyor, score ise sıralı ölçütlere göre puan veriyor. Sürüm notlarındaki örnekte "Ödeme sayfamız sabah 9'dan beri 500 hatası veriyor" metni fatura, hata ve hesap seçenekleri arasından yüksek olasılıkla hataya ayrılıyor. Her yanıtla birlikte bir güven değeri de dönüyor; model sayfaları bu değerin cevabın doğru olma ihtimali anlamına gelmediğini ayrıca belirtiyor.
İlk iki model
Nimble, Bespoke Labs'in Qwen3.5-9B üzerine eğittiği 9 milyar parametreli model. Yaklaşık 9,5 GB yer kaplıyor, Apache 2.0 lisanslı ve ollama pull nimble ile kuruluyor. Düşünme adımı olmadan doğrudan cevap kelimelerini puanladığı için hızlı; sayfasına göre değerlendirilecek metin 8.192 kelime parçasını aşmamalı. Tev1 ise Together AI'ın deneysel model ailesi: 4 milyar parametreli sürümü 4,5 GB, 0,8 milyarlık sürümü 812 MB. Together AI, veri hazırlama ve eğitim betiklerini MIT lisansıyla paylaşmış ama modelin lisansını sayfada belirtmemiş.
Kendi sunucusunda yapay zeka çalıştıran şirketler için bu, destek taleplerini ve e-postaları veriyi dışarı çıkarmadan ayırmanın basit bir yolu. Python'dan TypeSafe'in SDK'sı ile, adres olarak yerel Ollama gösterilerek kullanılabiliyor.
0.35 henüz deneme sürümü; kararlı sürüm hala 0.34.4. Karar modelleri şimdilik Ollama'nın komut satırında ve Python ile JavaScript kütüphanelerinde yok, duyuru yazısı da henüz yayımlanmadı. Modeller yalnızca metinle çalışıyor ve yalnızca verilen seçenekler arasından seçim yapıyor. Together AI, Tev1'in İngilizce dışındaki dillerde ve istem saldırılarına karşı tam test edilmediğini yazıyor; Türkçe metinlerde kullanmadan önce kendi örneklerinizle denemek iyi olur. Modellerin farklı işlerdeki başarısını görmek için bağımsız araştırmacıların karşılaştırmalarını takip etmekte fayda var.
Kaynaklar: GitHub: Ollama v0.35.0 sürüm notları, Ollama: Nimble, Ollama: Tev1.
