White Circle, açık modelleri eğitmek için Halo'yu açık kaynak yaptı

Yapay zeka uygulamalarında kullanıcı ve model davranışını denetleyen araçlar geliştiren White Circle, model eğitim çerçevesi Halo'yu GitHub'da açık kaynak olarak yayımladı. Şirket, kendi eğittiği bütün modellerde artık Halo'yu kullandığını söylüyor.

Halo nedir

Halo, dil modellerini ve görsel de anlayan çok kipli modelleri eğitmek için kullanılan bir yazılım çerçevesi. Asıl hedefi "sonradan eğitim": hazır bir açık modeli alıp kendi verinizle ince ayar yapmak, tercihlere göre düzeltmek ya da pekiştirmeli öğrenmeyle belirli bir işte daha iyi hale getirmek. Sıfırdan ön eğitimi de destekliyor.

Halo'nun öne çıkan yanı, Hugging Face modelleriyle doğrudan çalışması. Eğitilen model Hugging Face'in kendi dosya biçiminde kalıyor, eğitim bittikten sonra her zamanki yöntemle yüklenebiliyor. Yeni bir model ailesini desteklemek için modeli baştan yazmak yerine küçük bir bağlantı kodu eklemek yetiyor.

Ne yapabiliyor

• Aynı kod, her ölçekte: Küçük bir modele LoRA ile tek GPU'da ince ayar da, çok sunuculu kümelerde büyük uzmanlar karışımı (MoE) modelleri eğitmek de aynı kod tabanıyla yapılıyor.
• Eğitim yöntemleri: Ön eğitim, denetimli ince ayar (SFT), tercih eğitimi (DPO gibi), bilgi damıtma ve pekiştirmeli öğrenme aynı altyapıyı paylaşıyor.
• Ajan eğitimi: Modelin bir ortamda çok adımlı görevler yaptığı pekiştirmeli öğrenmede, örnek üretimi vLLM ya da SGLang sunucusunda eğitimle eş zamanlı yürüyor.
• Kodlama ajanlarına hazır: Depoda Claude Code ve Codex'in okuyabileceği hazır beceriler var (iş başlatma, hata ayıklama, model ekleme gibi). Belgeler de iki ayrı set halinde: biri insanlar için kısa rehberler, diğeri kodlama ajanları için ayrıntılı teknik başvuru.

Ne kadar hızlı

White Circle'ın kendi ölçümüne göre, sekiz NVIDIA B300 GPU'lu bir sunucuda Halo, Hugging Face'in yaygın eğitim kütüphanesi TRL'nin standart kurulumuna göre 2,8 kata kadar daha fazla veri işliyor ve daha az bellek kullanıyor. Şirket, eğitim sonucunun TRL ile aynı çizgide kaldığını da belirtiyor. Ölçüm yöntemi depodaki performans belgesinde yer alıyor.

Nasıl kullanılır

Halo, NVIDIA'nın Blackwell ve Hopper nesli GPU'ları için hazır Docker imajlarıyla geliyor. İmajlar hesap açmadan indirilebiliyor. Eğitim, hazır örnek ayar dosyalarından biri seçilip tek bir komutla başlatılıyor. Depoda farklı modeller ve yöntemler için hazır örnekler bulunuyor.

Dikkat edilmesi gerekenler

• Lisans, Apache 2.0'ın üstüne eklenmiş özel şartlar içeriyor. Kendi modelini eğitmek ve kurum içinde kullanmak serbest. Ancak Halo'yu "eğitim hizmeti" olarak başkalarına satan ve bu hizmetten yılda 20 milyon doların üzerinde gelir elde eden şirketlerin White Circle ile ayrı anlaşma yapması gerekiyor. Yıllık geliri 20 milyon doları aşan şirketler, Halo ile eğittikleri modeli yayımlarsa model kartına "Trained with Halo" notunu eklemek zorunda.
• Hız karşılaştırmaları veri merkezi GPU'larında yapıldı. Sonuçları farklı açılardan görmek için bağımsız araştırmacıların değerlendirmelerini de takip edin.
• Büyük modellerin eğitimi için çok GPU'lu veri merkezi donanımı gerekiyor. Tek GPU seçeneği küçük modellerde LoRA ile ince ayar için.

Kaynaklar: GitHub: whitecircle/halo, White Circle blogu: Halo, Frontier-Lab Training for Everyone, Halo lisansı.