Python

Czy dobrze rozumiem, że najpierw szukaliście minimalnego dopasowania (np. dopasowania według akapitów), a następnie po prostu eksportowaliście cały dokument i wysyłaliście go do kontekstu LLM?

Ile klientów trzeba obsłużyć naraz i jak określić wymaganą moc (np. przy bazie 5 miliardów klientów)?

Jak ten model/usługa będzie uruchamiany i działał, biorąc pod uwagę, że SMS musi zostać wysłany o określonej porze zgodnie z harmonogramem?

Jeśli to jest API, co będzie w ciele żądania HTTP wejściowego i co zwraca model?

Prostszy przykład: wysyłka SMS z ofertą zakupu kiełbasy, ale zaczyna się post prawosławny — co się wtedy zmienia i na co zwracać uwagę?

Czy należy monitorować nie tylko metryki jakości modelu, ale także dane, na których ten model jest oparty, prawda?

Bank [nazwa] chce wysyłać SMS-y o nowej ofercie hipotecznej tylko do wybranych klientów, a nie do wszystkich. Jaki model jest tutaj potrzebny i na co ważne jest zwrócenie uwagi z punktu widzenia biznesu?

Czy owinąć model w kontener, prawda?

Co dokładnie sprawdza Kubernetes przed uruchomieniem usługi (gotowość)?

Jakie modele ML, oprócz LLM, znasz z punktu widzenia zastosowania biznesowego?

Jakie masz doświadczenie z Kubernetes i Docker?

Czy uważasz, że wszystkie statystyczne metryki jakości są traktowane tak samo, czy mają swoje niuanse?

Serwis modelu ciągle się zawiesza, a raz w tygodniu wysyłani są do niego klienci — czy to nie jest nieefektywne i co można zrobić?

Jakie są inne statystyczne metryki jakości modelu?

Co się dzieje z danymi po tym, jak model je ocenił?

Co jeszcze trzeba sprawdzać/monitorować podczas wykonywania zadania wsadowego, oprócz dotrzymania terminu?

Jak określamy wymaganą moc infrastruktury dla modelu?

Jak dokładnie będzie wyglądał wdrożenie modelu — na przykład na maszynie wirtualnej? Gdzie dokładnie?

Stawka Narodowego Banku zmienia się, w związku z tym zmieniają się warunki kredytu (kwota, stopa) — co może się zmienić w modelu/kampanii w tym procesie?

Jak wygląda wdrożenie modeli uczenia maszynowego? Jakie są etapy i gdzie mogą wystąpić problemy?