Python

Kiek klientų reikia apdoroti vienu metu ir kaip nustatyti reikiamą galią (pavyzdžiui, turint 5 milijardų klientų bazę)?

Teisingai suprantu, kad pirmiausia ieškojote minimalaus atitikimo (pvz., atitikimo pagal paragrafus), o tada paprasčiausiai eksportavote visą dokumentą ir jį siuntėte į LLM kontekstą?

Kaip ši modelis/paslauga bus paleista ir veiks, atsižvelgiant į tai, kad SMS turi būti išsiųstas tiksliai pagal grafiką?

Jei tai yra API, kas bus įeinančio HTTP užklausos kūne ir ką grąžina modelis?

Ar teisinga, kad reikia stebėti ne tik modelio kokybės metrikas, bet ir duomenis, kuriais šis modelis yra pagrįstas?

Paprasčiausias pavyzdys: SMS siuntimas su pasiūlymu įsigyti dešrą, bet prasideda ortodoksų pasninkas — kas keičiasi šiuo atveju ir į ką reikėtų atkreipti dėmesį?

Bankas [pavadinimas] nori siųsti SMS apie naują hipotekos pasiūlymą tik tikslinei grupei, ne visiems klientams. Koks čia modelis reikalingas ir ką svarbu atsižvelgti iš verslo perspektyvos?

Ar mes įdėsime modelį į konteinerį, tiesa?

Ką tiksliai tikrina Kubernetes prieš paleidžiant paslaugą (paruoštumas)?

Kokius ML modelius, išskyrus LLM, žinote iš verslo taikymo perspektyvos?

Kokia tavo patirtis su Kubernetes ir Docker?

Kaip manai, ar visos statistinės kokybės metrikos laikomos vienodos, ar turi niuansų?

Kokios yra kitos statistinės modelio kokybės metrikos?

Kaip nustatome modelio reikalaujamą infrastruktūros galią?

Modelio paslauga nuolat stringa ir kartą per savaitę į jį siunčiami klientai — ar tai neefektyvu ir ką galima padaryti?

Kas vyksta su duomenimis po to, kai modelis juos įvertino?

Ką dar reikėtų patikrinti/sekite atliekant batch darbą, išskyrus laikymąsi termino?

Kaip tiksliai bus išdėstytas modelis — pavyzdžiui, virtualioje mašinoje? Kur tiksliai?

Centrinio banko palūkanų norma keičiasi, atitinkamai keičiasi ir kredito sąlygos (suma, palūkanų norma) — kas gali pasikeisti modelyje/kampanijoje šiame procese?

Kaip modelis sąveikauja su duomenimis, kai jis jau yra gamyboje?