Python

Cik klientu ir nepieciešams apstrādāt vienlaikus un kā noteikt nepieciešamo jaudu (piemēram, ar 5 miljardu klientu bāzi)?

Vai es pareizi saprotu, ka jūs vispirms meklējāt minimālo atbilstību (piemēram, atbilstību pēc paragrāfiem), un tad vienkārši eksportējāt visu dokumentu un nosūtījāt to LLM kontekstā?

Kā šis modelis/pakalpojums tiks darbināts un darbosies, ņemot vērā, ka SMS ir jānosūta noteiktā laikā saskaņā ar grafiku?

Ja tas ir API, kas būs iekšā ienākošajā HTTP pieprasījuma ķermenī un ko atgriež modelis?

Vai ir pareizi, ka ir jāuzrauga ne tikai modeļa kvalitātes metriku, bet arī dati, uz kuriem šis modelis balstās?

Vienkāršāks piemērs: SMS sūtīšana ar piedāvājumu iegādāties desu, bet sākas pareizticīgais gavēnis — kas tajā gadījumā mainās un kam jāpievērš uzmanība?

Bankas [nosaukums] vēlas sūtīt SMS par jaunu hipotēkas piedāvājumu tikai mērķauditorijai, nevis visiem klientiem. Kāds šeit ir nepieciešams modelis un kas ir svarīgi ņemt vērā no biznesa skatpunkta?

Vai mēs modeli iekapsulēsim konteinerā, vai ne?

Ko tieši pārbauda Kubernetes pirms pakalpojuma uzsākšanas (gatavība)?

Kādus ML modeļus, izņemot LLM, jūs zināt no biznesa pielietojuma viedokļa?

Kāda ir tava pieredze ar Kubernetes un Docker?

Vai tu uzskati, ka visas statistikas kvalitātes rādītājus uzskata par vienādiem, vai ir nianses?

Kādas ir citas statistikas metrikas modeļa kvalitātei?

Kā mēs noteicam nepieciešamo infrastruktūras jaudu modelim?

Modeļa pakalpojums pastāvīgi ir aizkavējies, un to reizi nedēļā apmeklē klienti — vai tas nav neefektīvi un ko varētu darīt?

Kas notiek ar datiem pēc tam, kad modelis tos novērtēja?

Ko vēl ir jāuzrauga/pārbauda, veicot partijas darbu, izņemot termiņa ievērošanu?

Kā tieši tiks izvietots modelis — piemēram, virtuālajā mašīnā? Kur tieši?

Centrālās bankas likme mainās, attiecīgi mainās arī kredīta nosacījumi (apjoms, likme) — kas var mainīties modelī/kampanjā šajā procesā?

Kā modelis sadarbojas ar datiem, kad tas jau ir ražošanā?