Kolik klientů je třeba zpracovat najednou a jak určit požadovaný výkon (například při databázi 5 miliardů klientů)?
Python
Správně rozumím, že nejprve hledali minimální shodu (například shodu podle odstavců), a poté jednoduše exportovali celý dokument a poslali ho do kontextu LLM?
Jak bude tento model/služba spuštěna a fungovat, s přihlédnutím k tomu, že SMS je třeba odeslat v konkrétní čas podle plánu?
Pokud je to API, co bude v těle příchozího HTTP požadavku a co vrací model?
Je tedy třeba sledovat nejen metriky kvality modelu, ale i data, na kterých je tento model postaven, správně?
Jednodušší příklad: rozesílání SMS s nabídkou na koupi klobásy, ale začíná pravoslavný půst — co se v takovém případě mění a na co je třeba dbát?
Banka [jméno] chce posílat SMS o nové hypoteční nabídce pouze cílovým klientům, nikoli všem klientům. Jaký model je zde potřeba a co je důležité z hlediska podnikání?
Zabalíme model do kontejneru, že?
Co přesně kontroluje Kubernetes před spuštěním služby (připravenost)?
Jaké modely ML, kromě LLM, znáš z hlediska podnikové aplikace?
Jaké máte zkušenosti s Kubernetes a Docker?
Myslíš si, že všechny statistické metriky kvality jsou považovány za stejné, nebo mají nějaké nuance?
Jak přesně bude model nasazen — například na virtuálním stroji? Kde přesně?
Jaké jsou další statistické metriky kvality modelu?
Jak určujeme požadovanou kapacitu infrastruktury pro model?
Služba modelu je neustále zaseknutá a jednou týdně jsou do ní posíláni klienti — nezdá se to být neefektivní a co s tím lze udělat?
Co se stane s daty po tom, co je model ohodnotil?
Co je ještě třeba kontrolovat/monitorovat při provádění dávkové práce, kromě dodržení termínu?
Sazba ČNB se mění, a tím se mění i podmínky úvěru (částka, sazba) — co se při tom může změnit v modelu/kampani?
Jak probíhá nasazení modelů strojového učení? Jaké jsou fáze a jaké mohou být problémy?