Python

Câți clienți trebuie procesați odată și cum se determină capacitatea necesară (de exemplu, cu o bază de 5 miliarde de clienți)?

Înțeleg corect că mai întâi căutați cea mai mică potrivire (de exemplu, potrivire pe paragrafe), apoi pur și simplu exportați întregul document și îl trimiteți în contextul LLM?

Cum va fi lansat și funcționat acest model/acest serviciu, având în vedere că SMS-ul trebuie trimis la un moment specific conform programului?

Dacă aceasta este o API, ce va fi în corpul cererii HTTP de intrare și ce returnează modelul?

Adică trebuie monitorizate nu doar metricile de calitate ale modelului, ci și datele pe care se bazează acest model, corect?

Un exemplu mai simplu: trimiterea unui SMS cu o ofertă de cumpărare a cârnaților, dar începe postul ortodox — ce se schimbă în acest caz și la ce trebuie să fii atent?

Banca [nume] dorește să trimită SMS-uri despre o nouă ofertă ipotecară doar clienților țintă, nu tuturor clienților. Ce model este necesar aici și ce aspecte sunt importante din punct de vedere al afacerii?

Vom înfășura modelul într-un container, nu?

Ce verifică exact Kubernetes înainte de a porni un serviciu (pregătire)?

Ce modele de ML, în afară de LLM, cunoști din punct de vedere al aplicației de afaceri?

Care este experiența ta cu Kubernetes și Docker?

Din punctul tău de vedere, toate metricile statistice de calitate sunt considerate la fel, există nuanțe?

Există alte metrici statistice ale calității modelului — care sunt acestea?

Cum determinăm capacitatea necesară a infrastructurii pentru model?

Serviciul modelului se blochează constant și o dată pe săptămână sunt trimiși clienți — nu pare ineficient, și ce se poate face?

Ce se întâmplă cu datele după ce modelul le-a evaluat?

Ce altceva trebuie verificat/monitorizat în timpul executării unui job batch, în afară de respectarea termenului limită?

Cum va fi implementat exact modelul — de exemplu, pe o mașină virtuală? Unde anume?

Rata Băncii Centrale se schimbă, prin urmare condițiile creditului (sumă, rată) se schimbă — ce poate să se schimbe în model/campanie în acest proces?

Cum interacționează modelul cu datele atunci când este deja în producție?