open-source
6 bülten
PPO'nun karmaşık dörtlü model mimarisini ve pekiştirmeli öğrenme dengesizliklerini analitik bir çapraz entropi kaybına indirgeyerek model hizalama maliyetlerini kökten düşüren algoritma.
Kaydırmalı seyrek dikkatle (S2-Attn) eğitim maliyetini katlamadan 7B modelleri tek sunucuda 100k bağlama genişleten sistem çalışması analizi.
Gradyan matrisini düşük dereceli alt uzaya yansıtarak optimizer bellek yükünü yüzde altmış beş azaltan ve tek GPU'da 7B ön eğitimini mümkün kılan çalışma.
Referans modeli ortadan kaldırıp uzunluk normalize edilmiş ödül marjıyla LLM hizalamasında bellek ihtiyacını yarıya indiren optimizasyon analizi.
Model ağırlıklarını büyüklük ve yön olarak ayrıştırıp LoRA'nın kapasite tavanını kıran ve tam ince ayar başarımı sunan adaptasyon analizi.
Finansal muhasebe ve transfer operasyonları için sıfır dinamik bellek tahsisi ve io_uring mimarisi üzerine kurulu deterministik OLTP veritabanı.