Kas õigesti aru, et te esmalt otsisite minimaalset vastavust (näiteks vastavust lõigu kaupa), ja siis lihtsalt ekspordite kogu dokumendi ja saadate selle LLM konteksti?
Python
Kui palju kliente tuleb korraga töödelda ja kuidas määrata vajalik võimsus (näiteks 5 miljardi kliendi baasi puhul)?
Kuidas see mudel/teenus käivitub ja töötab, arvestades, et SMS tuleb saata kindlal ajal vastavalt ajakavale?
Kui see on API, mis on sisend HTTP-päringu kehas ja mida mudel tagastab?
Lihtsam näide: SMS-i saatmine, kus pakutakse osta vorsti, kuid algab õigeusklik paast — mis sel juhul muutub ja millele tähelepanu pöörata?
Kas on õige, et tuleb jälgida mitte ainult mudeli kvaliteedi näitajaid, vaid ka andmeid, millele see mudel põhineb?
Pank [nimi] soovib saata SMS-i uue hüpoteegi pakkumise kohta ainult sihtrühmale, mitte kõigile klientidele. Millist mudelit on siin vaja ja mida on oluline arvestada ärilisest vaatenurgast?
Kas me pakime mudeli konteinerisse, kas pole?
Mida täpselt kontrollib Kubernetes enne teenuse käivitamist (valmidus)?
Milliseid ML-mudeleid, välja arvatud LLM, teate ärirakenduse vaatenurgast?
Milline on sinu kogemus Kubernetes ja Dockeriga?
Kas sa arvad, et kõik statistilised kvaliteedimõõdikud peetakse ühesugusteks või neil on nüansse?
Mudeli teenus on pidevalt kinni ja sinna saadetakse kliente kord nädalas — kas see ei tundu ebatõhus ja mida saaks teha?
Millised on teised statistilised mõõdikud mudeli kvaliteedi kohta?
Mida juhtub andmetega pärast seda, kui mudel need hindas?
Mida veel tuleks kontrollida/monitoorida partii-töö teostamisel, välja arvatud tähtaega järgimine?
Kuidas määrame mudeli jaoks vajalikku infrastruktuuri võimsust?
Kuidas täpselt modelit paigutatakse — näiteks virtuaalmasinas? Kus täpselt?
Keskpanga määr muutub, seega muutuvad ka krediidi tingimused (summa, määr) — mis võib selles protsessis muutuda mudelis/kampaanias?
Kuidas mudel suhtleb andmetega, kui see on juba tootmises?