Python

Колико клијената треба проскорити одједном и како одредити потребну капацитет (на пример, са базом од 5 милијарди клијената)?

Да ли правилно разумем да сте прво тражили минималну подударност (на пример, подударност по параграфима), а затим једноставно извезли цео документ и га послали у контекст LLM-а?

Kako će ovaj model/servis biti pokrenut i funkcionisati, uzimajući u obzir da SMS treba poslati u određeno vreme prema rasporedu?

Ako je ovo API, šta će biti u telu ulaznog HTTP zahteva i šta model vraća?

Значи, треба пратити не само метрике квалитета модела, већ и податке на којима се тај модел гради, зар не?

Jednostavniji primer: slanje SMS sa ponudom za kupovinu kobasice, ali počinje pravoslavni post — šta se tada menja i na šta treba obratiti pažnju?

Банка [име] жели да шаље SMS о новом хипотекарном понуди само циљним клијентима, а не свим клијентима. Који модел је потребан овде и шта је важно узети у обзир са пословне тачке гледишта?

Da li ćemo model umotati u kontejner, zar ne?

Šta tačno proverava Kubernetes pre pokretanja usluge (spremnost)?

Koje ML modele, osim LLM, poznaješ sa stanovišta poslovne primene?

Koje je vaše iskustvo sa Kubernetes i Docker?

Da li misliš da se sve statističke metrike kvaliteta smatraju isto, ili postoje nijanse?

Koje su još statističke metrike kvaliteta modela?

Servis modela je stalno u kvaru, a jednom nedeljno se šalju klijenti — da li to nije neefikasno i šta se može uraditi?

Šta se dešava sa podacima nakon što ih model proceni?

Kako odrediti potrebnu kapacitet infrastrukture za model?

Šta još treba proveravati/pratiti prilikom izvršavanja batch posla, osim poštovanja roka?

Kako će tačno biti implementiran model — na primer, na virtuelnoj mašini? Gde tačno?

Kamatna stopa Centralne banke se menja, shodno tome se menjaju uslovi kredita (iznos, kamata) — šta se može promeniti u modelu/kampanji u ovom procesu?

Kako se vrši deployment modela mašinskog učenja? Koji su koraci i u čemu mogu biti problemi?