Amazon SageMaker'a 2026'da 13 yeni çıkarım özelliği eklendi
AWS, SageMaker AI için yıl başından bu yana çıkan 13 çıkarım özelliğini derledi: otomatik örnek önerileri, kapasite yedeklemesi, OpenAI uyumlu API ve konteyner önbelleği.
AWS, 2026 yılı içinde Amazon SageMaker AI tarafında yayına aldığı 13 yeni çıkarım özelliğini tek bir yazıda topladı. Özellikler iki dağıtım yolunu kapsıyor: altyapıyı ve operasyonu AWS'ye bırakan yönetilen uç noktalar ile ayrılmış GPU kümeleri üzerinde Kubernetes denetimi isteyen ekipler için SageMaker HyperPod Inference. Yönetilen uç noktalar tarafında yıl başından beri yedi duyuru yapıldı.
Yapılandırma önerileri ve kapasite yedeği
Bir üretken yapay zeka modeli için doğru örnek tipini, sunum konteynerini ve optimizasyon ayarlarını seçmek AWS'ye göre binden fazla kombinasyonun elle denenmesi anlamına geliyor ve iki üç hafta sürüyor. Yeni çıkarım önerileri bu süreci otomatikleştiriyor; kullanıcı modeli ve hedefi (maliyet, gecikme ya da verim) belirtiyor, çıktı olarak ilk token süresi, tokenlar arası gecikme, P50/P90/P99 yüzdelikleri, verim ve maliyet tahmini içeren dağıtıma hazır bir model paketi alıyor. AWS'nin paylaştığı örnekte GPT-OSS-20B için verim optimizasyonu, aynı istek gecikmesinde saniyedeki token sayısını iki katına çıkardı. Öneri üretmek ek ücrete tabi değil.
Kapasite sorunlarına karşı ise örnek havuzları geldi. Ekipler beşe kadar örnek tipini öncelik sırasıyla tanımlıyor; uç nokta kurulurken ilk tercihte kapasite yoksa SageMaker listedeki bir sonrakine geçiyor, ölçek küçültmede önce yedek örnekleri kapatıyor. Her havuz girdisi ayrı bir optimize model yapılandırmasına işaret edebiliyor.
OpenAI uyumlu uç nokta ve daha hızlı açılış
SageMaker uç noktaları artık akışı destekleyen Chat Completions için /openai/v1 yolunu açıyor. OpenAI SDK, LangChain veya Strands Agents üzerine kurulu uygulamalarda yalnızca uç nokta adresi değişiyor; kimlik doğrulama, mevcut AWS kimlik bilgilerinden üretilen ve 12 saate kadar geçerli bearer token ile yapılıyor. Özellik 14 AWS bölgesinde kullanılabiliyor.
Konteyner önbelleği ise ölçek genişletmede imajı önceden çekiyor. ml.g6.2xlarge üzerinde Qwen3-8B ve 17,7 GB sıkıştırılmış LMI konteyneriyle uçtan uca başlatma süresi 525 saniyeden 258 saniyeye indi; model indirme 168 saniyeden 77 saniyeye düştü. Erken erişim müşterileri %38 ile %65 arasında iyileşme bildirdi.
Duyuruların tamamı ve karşılaştırma tablosu AWS blog yazısında.
