llama.cpp
llama.cpp, the open-source program for running AI models on your own computer, has released version 0.6.0. Its server gains /v1/systemone, an API for decision models, and Clef is now supported with text and images. The release also extends speed-up methods such as MTP and DFlash, adds GLM-5.3-Flash
llama.cpp
Modelleri kendi bilgisayarında çalıştırmak için kullanılan açık kaynak program llama.cpp, 0.6.0 sürümünü yayımladı. Sunucuya karar modelleri için /v1/systemone adlı yeni bir arayüz eklendi ve Clef metin ile görsel desteği aldı. Sürüm ayrıca MTP ve DFlash gibi hızlandırma yöntemlerini genişletiyor, G
llama.cpp
أصدر llama.cpp، البرنامج مفتوح المصدر لتشغيل نماذج الذكاء الاصطناعي على الحاسوب الشخصي، الإصدار 0.6.0. وأضاف إلى خادمه واجهة جديدة باسم /v1/systemone لنماذج القرار، مع دعم كامل لنموذج Clef نصًا وصورة. كما يوسّع الإصدار طرق التسريع مثل MTP وDFlash، ويضيف دعم GLM-5.3-Flash وتنزيل النماذج من واجهة الوي
llama.cpp
用于在自己电脑上运行 AI 模型的开源程序 llama.cpp 发布了 0.6.0 版。其服务器新增面向决策模型的 /v1/systemone 接口，Clef 获得文本与图像的完整支持。新版还扩展了 MTP 和 DFlash 等加速方法，加入 GLM-5.3-Flash 支持，并可在网页界面中直接下载模型。
llama.cpp
Modelleri kendi donanımında çalıştıranların kullandığı llama.cpp yeni sürümünü yayımladı. İki yeni model ailesi desteğe girdi, ama asıl işe yarayan kısım bellek tarafında: tensörler artık istendiğinde okunuyor ve nicemleyici bellek tavanına bağlandı. Sunucu tarafında bağlam sınırı artık yuva başına
llama.cpp
أصدر المشروع الذي يعتمد عليه معظم من يشغّلون النماذج على أجهزتهم نسخة جديدة. عائلتان جديدتان من النماذج تحصلان على دعم أولي، لكن الأهم عملياً في جانب الذاكرة: صارت الموترات تُقرأ عند الطلب، ووُضع سقف للمكمِّم. وعلى جانب الخادم صار حد السياق يُطبَّق لكل فتحة على حدة.
llama.cpp
The project most people use to run models on their own hardware has a new release. Two new model families gain initial support, but the useful part is memory: tensors are now read on demand and the quantizer is capped. On the server side, context limits are enforced per slot.
llama.cpp
多数人在自有硬件上跑模型时用的这个项目发布了新版本。两个新模型系列获得初步支持，但真正有用的是内存这一侧：张量改为按需读取，量化器加了上限。服务端的上下文限制现在按 slot 分别施加。