Python

Koľko klientov je potrebné spracovať naraz a ako určiť požadovanú kapacitu (napríklad pri databáze s 5 miliardami klientov)?

Správne rozumiem, že ste najskôr hľadali minimálne zhodu (napríklad zhodu podľa odstavcov), a potom ste jednoducho exportovali celý dokument a poslali ho do kontextu LLM?

Ako bude tento model/služba spustená a fungovať, s ohľadom na to, že SMS je potrebné odoslať v konkrétny čas podľa rozvrhu?

Ak je to API, čo bude v tele prichádzajúceho HTTP požiadavku a čo vracia model?

To znamená, že je potrebné sledovať nielen metriky kvality modelu, ale aj údaje, na ktorých je tento model postavený, správne?

Preprostejši primer: pošiljanje SMS z ponudbo za nakup klobase, vendar se začne pravoslavni post — kaj se v tem primeru spremeni in na kaj je treba biti pozoren?

Banka [meno] chce posielať SMS o novej hypotekárnej ponuke len cieľovým klientom, nie všetkým klientom. Aký model je tu potrebný a čo je dôležité z hľadiska podnikania?

Zabalíme model do kontajnera, že?

Čo presne kontroluje Kubernetes pred spustením služby (pripravenosť)?

Aké modely ML, okrem LLM, poznáš z hľadiska podnikovej aplikácie?

Aké máš skúsenosti s Kubernetes a Docker?

Máš názor, že všetky štatistické metriky kvality sa považujú za rovnaké, majú nejaké nuansy?

Existujú ďalšie štatistické metriky kvality modelu — aké sú?

Ako určíme požadovanú kapacitu infraštruktúry pre model?

Služba modelu sa neustále zasekáva a raz týždenne sa na ňu posielajú klienti — nezdá sa to byť neefektívne, a čo sa dá urobiť?

Ako presne bude model nasadený — napríklad na virtuálnom stroji? Kde presne?

Čo sa stane s údajmi po tom, čo ich model ohodnotil?

Čo ešte treba kontrolovať/monitorovať pri vykonávaní batch práce, okrem dodržania termínu?

Spreminja se obrestna mera Centralne banke, posledično se spreminjajo pogoji kredita (znesek, obrestna mera) — kaj se lahko spremeni v modelu/kampanji v tem procesu?

Ako model interaguje s údajmi, keď je už v prevádzke?