DeepSeek-V4.1-Flash'ın bellek sıkıştırması Reddit'te tartışma başlattı
DeepSeek-V4.1-Flash ile duyurulan KV önbellek sıkıştırma yöntemi, bir Reddit kullanıcısına göre çıkarım maliyetini düşürüp OpenAI ve Anthropic'in avantajını aşındırıyor.
DeepSeek, DeepSeek-V4.1-Flash ile birlikte KV değer önbelleğinin bellek ihtiyacını büyük ölçüde azaltan bir yöntem yayımladı. Duyuru, r/OpenAI topluluğunda bir kullanıcının bunun sektöre etkisini tartıştığı gönderiyle gündeme geldi.
Gönderide ne savunuluyor
u/justlikemedics imzalı gönderiye göre bu yöntem iki sonuç doğuruyor: modeller çok daha geniş bağlam pencereleriyle çalışabilir ve istekleri karşılamak çok daha az bellek harcar. Kullanıcı bundan yola çıkarak çıkarımın ucuzlayacağını öne sürüyor.
Aynı gönderide, çıkarım ucuzladıkça ve bellek ihtiyacı azaldıkça OpenAI ile Anthropic'in hesaplama gücünü güvence altına almaktan doğan avantajının anlamını yitireceği savunuluyor. Kullanıcı, DeepSeek ve diğer Çinli laboratuvarların çıkarım maliyetini acımasızca aşağı çektiğini, bunun da iki şirketin en üst düzey modellerine harcadığı parayı geri kazanmasını zorlaştıracağını, hatta imkansız hale getireceğini yazıyor.
Not
Buradaki değerlendirme bir forum kullanıcısına ait; şirketlerin açıklaması ya da bağımsız bir ölçüm değil. Gönderide yöntemin ayrıntısına, sıkıştırma oranına veya karşılaştırmalı bir teste yer verilmiyor. Tartışmanın tamamı Reddit'teki özgün gönderide.
