Bir seferde kaç müşteri işlenmeli ve gereken kapasite nasıl belirlenir (örneğin, 5 milyar müşterilik bir veritabanı ile)?
Python
Doğru mu anlıyorum, önce minimum eşleşmeyi (örneğin, paragraflar bazında eşleşme) aradınız ve sonra tüm belgeyi dışa aktararak LLM bağlamına gönderdiniz?
Bu model/hizmet nasıl başlatılacak ve çalıştırılacak, SMS'nin belirli bir zamanda zamanlamaya göre gönderilmesi gerektiği dikkate alınarak?
Bu bir API ise, giriş HTTP isteğinin gövdesinde ne olacak ve model ne döndürür?
Yani, modelin kalite metriklerini değil, aynı zamanda bu modelin inşa edildiği verileri de izlemek gerekiyor, doğru mu?
Daha basit bir örnek: Sosis satın almak için teklif içeren SMS gönderimi, ancak Ortodoks orucu başlıyor — bu durumda ne değişir ve nelere dikkat edilmelidir?
Banka [isim] yeni bir ipotek teklifini sadece hedef müşterilere SMS yoluyla göndermek istiyor, tüm müşterilere değil. Burada hangi model gereklidir ve iş açısından nelere dikkat edilmelidir?
Modeli bir konteyner içine almayacak mıyız?
Kubernetes, servisi başlatmadan önce (hazır olma) neyi tam olarak kontrol eder?
İş uygulaması açısından LLM dışında hangi ML modellerini biliyorsun?
Kubernetes ve Docker ile ilgili deneyiminiz nedir?
Sence, tüm istatistiksel kalite metrikleri aynı mı kabul ediliyor, yoksa onların incelikleri var mı?
Modelin başka istatistiksel kalite metrikleri var mı — bunlar nelerdir?
Model için gereken altyapı kapasitesini nasıl belirliyoruz?
Model servisi sürekli takılıyor ve haftada bir müşteriler gönderiliyor — bu verimsiz değil mi, ve ne yapılabilir?
Model verileri değerlendirdikten sonra verilerle ne olur?
Toplu iş çalıştırılırken, teslim tarihine uyulmasının dışında neyi kontrol etmeli/izlemeli?
Model nasıl devreye alınacak — örneğin, sanal bir makinede? Nerede tam olarak?
Merkez Bankası faiz oranını değiştirdiğinde, kredi koşulları (tutar, faiz oranı) da değişir — bu durumda modelde/kampanyada ne değişebilir?
Model, üretimdeyken verilerle nasıl etkileşime girer?