Yapay Zeka Bilgi İşlem Gücü · KAEL Yazı İşleri Departmanı
Eğitim ve çıkarım: iki farklı bilgi işlem görevi
Eğitim, modelin nasıl öğrendiğini belirler ve çıkarım, modelin nasıl kullanıldığını belirler. Bu iki aşamayı birbirinden ayırmak, bilgi işlem gücü gereksinimlerinin anlaşılmasına yardımcı olur ve deneysel ortamın performansının doğrudan gerçek hizmet yetenekleri olarak alınmasını önler.
Eğitim yinelemeye odaklanır
Eğitim, ara durumların kaydedilmesini ve parametrelerin tekrar tekrar güncellenmesini gerektirir. Parti boyutu, giriş uzunluğu ve optimizasyon yöntemi kaynak kullanımını etkileyeceğinden, farklı çözümleri karşılaştırırken deneysel koşulları tutarlı tutmanız gerekir.
Mantıksal dikkat hizmeti
Çıkarım genellikle parametreleri güncellemez ancak eşit olmayan istek varış süreleri, değişen giriş uzunlukları ve gecikme kısıtlamalarıyla karşı karşıya kalır. Tek bir test hızlıdır ancak aynı anda birden fazla istek geldiğinde bu testin hala kararlı olduğu anlamına gelmez.
Göstergeleri ayrı ayrı ayarlayın
Araştırma aşaması deneyin tamamlanma süresine odaklanabilir ve hizmet aşaması gecikme dağıtımını, başarısızlık oranını ve kaynak maliyetini kaydetmelidir. Her iki aşamayı ayrı ayrı değerlendirin ve ardından paylaşılan ekipman veya izole dağıtım arasındaki dengeyi tartışın.
