AWS, Bedrock bilgi tabanını Textract ile karmaşık belgelere uyarladı
AWS, çok sayfalı fatura gibi karmaşık belgelerde RAG doğruluğunu artırmak için Amazon Textract ile Bedrock bilgi tabanını birleştiren bir referans çözüm yayımladı.
AWS, makine öğrenimi blogunda Amazon Bedrock bilgi tabanlarını karmaşık ve çok sayfalı belgelerle çalışacak şekilde özelleştiren bir çözüm anlattı. Örnek senaryo, ayda binlerce elektrik-su-doğalgaz faturasını işleyen bir müşteri hizmetleri ekibi: farklı biçimler, yoğun tablolar ve değişken sayfa düzenleri doğru bilgiyi çıkarmayı zorlaştırıyor.
Yazıya göre müşteri ilk denemesinde faturaları ham halleriyle bir RAG (Retrieval Augmented Generation) akışına verdi. Sonuç iyi olmadı: büyük dil modeli (LLM) kritik ayrıntıları atladı, bazı durumlarda halüsinasyon üretip yanlış ya da ilgisiz yanıtlar döndürdü. Bunun üzerine belgelerin önce ön işlemden geçirilmesi gerektiği anlaşıldı.
Textract ile ön işleme
Önerilen yaklaşımda metin çıkarma servisi Amazon Textract, Bedrock ile birlikte kullanılıyor. Yapılandırılmış ve yapılandırılmamış içerik Textract ile çıkarılıyor, tablolar etiketleniyor ve model için daha okunabilir bir biçime dönüştürülüyor. Böylece hesap numarası, faturalama detayları ve ödeme talimatları gibi alanlar sorgulanabilir hale geliyor. Desteklenen dosya türleri: PDF, DOCX, TXT, HTML, XLSX ve PNG.
Kurulum ve güvenlik denetimleri
Çözüm bir kabuk betiğiyle başlatılan AWS CloudFormation yığını üzerinden kuruluyor. Yığın; Lambda fonksiyonlarını, S3 klasörlerini, bir OpenSearch Serverless kümesini ve Amazon Bedrock bilgi tabanını oluşturuyor. Dağıtım sonrasında S3 klasörünün yapılandırılması, örnek belgelerin yüklenmesi ve bilgi tabanının kurulması gerekiyor; yüklenen belgeler otomatik olarak bilgi tabanına uygun biçime çevriliyor.
AWS, üretim ortamları için Amazon Bedrock Guardrails'in açılmasını öneriyor. Guardrails zararlı içeriği filtreleme, yasaklı konuları engelleme ve giriş ile çıkıştaki hassas bilgileri maskeleme denetimleri sunuyor. Ayrıca temellendirme doğrulaması, model yanıtının getirilen kaynak belgelerle destekleniyor olup olmadığını değerlendirerek halüsinasyonu azaltmaya yardımcı oluyor.
Örneğin kodu GitHub üzerinde paylaşıldı. Ayrıntılar ve adım adım kurulum için AWS blog yazısına bakabilirsiniz.
