Stanford ve NVIDIA'dan CLM: karar veren yapay zeka için hızlı ve açık bir model

Stanford Üniversitesi ve NVIDIA Research'ten araştırmacılar, Contrastive Language Model (CLM) adını verdikleri yeni bir model türünü tanıttı. CLM, metin yazan bir sohbet modeli gibi çalışmıyor. Önüne konan durumu okuyup verilen seçenekler arasından en uygun olanı hızla seçiyor. Araştırmacılar bunu, insanlarda düşünmeden verilen hızlı kararlara benzeterek bir "Sistem 1" modeli olarak tanımlıyor. İlk sürüm CLM-8B, kodu, model dosyaları ve eğitim verisiyle birlikte açık kaynak olarak yayımlandı.

CLM nedir, nasıl çalışıyor

CLM iki parçadan oluşuyor: biri durumu (örneğin ekranda ne olduğunu ya da bir müşterinin mesajını), diğeri olası eylemleri sayılara çeviriyor. Model, eğitim sırasında her durumu doğru eyleme yaklaştırıp yanlış eylemlerden uzaklaştırmayı öğreniyor. Kullanırken durum ve aday eylemler verildiğinde, her eylemin duruma ne kadar uyduğunu puanlıyor ve bir olasılık dağılımı çıkarıyor. Yeni bir iş için ayrıca eğitmek gerekmiyor.

Durumlar ve eylemler ayrı ayrı işlendiği için aynı seçenekler tekrar tekrar kullanıldığında bunların hesabı önbellekten geliyor. Araştırmacılara göre modeli asıl hızlandıran da bu. CLM-8B, Qwen3-8B modelinin üstüne eklenen iki küçük katmandan oluşuyor.

Nasıl eğitildi

Proje yazısına göre CLM-8B üç aşamada eğitildi: önce NVIDIA'nın Nemotron veri setinden 60 milyon soru cevap çiftiyle, sonra yanıltıcı yanlış seçenekler içeren 30 milyon sentetik örnekle, en son da ajanların gerçek görevlerde attığı 1 milyon adımlık kayıtla. Araştırmacılar ayrıca model büyüdükçe, veri ve işlem gücü arttıkça başarının öngörülebilir biçimde iyileştiğini gösterdiklerini söylüyor.

Sonuçlar

Araştırmacılara göre CLM-8B; bilgisayar kullanımı, oyun ve araç çağırma işlerinde TypeSafe'in karar modeli Jev ile benzer başarı gösterirken 9 kata kadar daha hızlı çalışıyor. Hız farkı, seçenek sayısı çok olduğunda ya da aynı seçenekler tekrar tekrar kullanıldığında en çok açılıyor. Projenin grafiklerinde CLM bazı işlerde Jev'in biraz gerisinde kalıyor: Araç çağırmada başarı oranı yüzde 95,2'ye karşı yüzde 99,2. CLM, ayrıca eğitildiğinde başka modellerin ürettiği kod çözümleri arasından en iyisini seçen bir denetçi olarak da kullanıldı ve iki kodlama testinde en yüksek sonucu aldı.

Nasıl kullanılır

CLM, contrastive-lm adlı Python paketiyle kuruluyor. Qwen3-8B modeli vLLM ile başlatılıyor, üstüne CLM'nin yaklaşık 75 MB'lık katmanı yükleniyor. Proje, tarayıcıdan denenebilen bir deneme ekranıyla geliyor. Örnek kodda bir müşteri mesajı veriliyor ve CLM mesajın acil olup olmadığını, hangi ekibe gitmesi gerektiğini ve müşterinin ne kadar sinirli olduğunu olasılıklarıyla birlikte tek seferde döndürüyor. Proje, kendi verisiyle ince ayar için bir rehber de içeriyor.

Çalışmanın arkasında Stanford'dan Jacky Kwok'un yürüttüğü, Hangoo Kang, Tarun Suresh, Jon Saad-Falcon, Marco Pavone, Christopher Ré ve Azalia Mirhoseini'nin yer aldığı bir ekip var. Kod ve model Apache 2.0 lisanslı. Modelin eğitim verisi ağırlıklı olarak İngilizce, Türkçe gibi dillerdeki başarısı henüz ölçülmüş değil. Sonuçları farklı açılardan görmek için bağımsız araştırmacıların değerlendirmelerini de takip etmekte fayda var.

Kaynaklar: CLM proje yazısı, GitHub: Contrastive-LM/CLM, Hugging Face: CLM-v0.1-8B.