Jina AI'nin yeni belge ayrıştırıcısı hızda öne çıkıyor, doğrulukta değil

Jina AI, PDF ve taramaları tek geçişte Markdown'a çeviren jina-ocr-v1'i yayımladı; model doğrulukta değil, sayfa başına hızda öne çıkıyor.

Paylaş
Jina AI'nin yeni belge ayrıştırıcısı hızda öne çıkıyor, doğrulukta değil

Elastic bünyesindeki Jina AI, belge ayrıştırma modeli jina-ocr-v1'i yayımladı. Model PDF, tarama, tablo, grafik ve fatura görüntülerini tek geçişte Markdown'a çeviriyor; tabloları HTML, formülleri LaTeX olarak yazıyor. Toplam 3,4 milyar parametresi var, token başına yaklaşık 570 milyon kod çözücü parametresi çalışıyor.

Açık ağırlıklar BF16 biçiminde yaklaşık 6,8 GB ve Transformers ya da vLLM üzerinde çalışıyor. Lisans CC BY-NC 4.0, yani ticari kullanım için Jina AI ile iletişime geçmek gerekiyor.

Mimari

Model, DeepSeek-OCR üzerine son eğitim uygulanarak kuruldu. Yaklaşık 380 milyon parametreli DeepEncoder, SAM, 16 kat evrişimli sıkıştırıcı ve CLIP-L'yi zincirliyor; 1024×1024 sayfa görünümündeki 4.096 yamayı 256 görsel token'a indiriyor. Dinamik çözünürlük kipinde her biri 100 token'lık 9 yerel parça ekleniyor, sayfa başına üst sınır 1.156 görsel token oluyor. Kod çözücü 12 katmanlı, 64 yönlendirilen ve 2 paylaşımlı uzmanı olan DeepSeek-3B-MoE; konum sınırı 32.768.

Kontrol noktasının içinde bir spekülatif kod çözme başlığı geliyor. FastMTP adı verilen bu başlık K=3 adım boyunca özyinelemeli çalışıyor, kod çözücü taslakları açgözlü biçimde doğruluyor. Kabul edilen metin düz açgözlü kod çözmeyle aynı kaldığı için hızlanma kayıpsız; K=3'te adım başına ortalama 2,73 token işleniyor.

Puanlar ve hız

Teknik rapora göre model OmniDocBench v1.6'da 91,14, olmOCR-Bench'te 83,4 alıyor. Doğrulukta lider değil: OmniDocBench'te PaddleOCR-VL-1.6 ve HunyuanOCR-1.5 (94,74), olmOCR-Bench'te chandra-ocr-2 ve dots.mocr (83,9) daha yüksek. Son eğitim, olmOCR-Bench'te DeepSeek-OCR temeline 7,4 puan ekliyor.

Asıl sonuç verimde. Tek A100 40 GB üzerinde 32 eşzamanlılıkta saniyede 2,57 sayfa ayrıştırıyor; Jina AI'nin ölçtüğü 14 sistem arasında en yükseği (olmOCR-2 için 1,22, chandra-ocr-2 için 0,38). Sayfa başına 1.085 çıktı token'ı üretiyor. NVIDIA L4'te toplu boyut 1 ile kod çözme 42,7'den 83,1 token/saniyeye çıkıyor, yani %57,6 kabul oranıyla 1,95 kat hızlanma.

En kısa deneme yolu Jina Reader: r.jina.ai'ye X-Respond-With: jina-ocr-v1 başlığıyla bir URL gönderiliyor. Jina AI ayrıca OpenAI uyumlu bir uç nokta ve barındırılan bir demo sunuyor. Ayrıntılar için MarkTechPost'un haberine bakabilirsiniz.

Devamını oku

Liquid AI تطلق أكبر نماذج LFM2.5 المفتوحة لتشغيل الوكلاء على الأجهزة

Liquid AI تطلق أكبر نماذج LFM2.5 المفتوحة لتشغيل الوكلاء على الأجهزة

أطلقت Liquid AI نموذج LFM2.5-24B-A2B كنموذج مفتوح، ويضم 24 مليار معامل إجمالا لكنه يشغل نحو 2.5 مليار منها في كل خطوة. وبحسب النتائج التي نشرتها الشركة، يولد النموذج المدرب للوكلاء الذين يستخدمون الأدوات 184 رمزا في الثانية على Apple M5 Max.

GlobalFeed Editor tarafından