Python

Колко клиента трябва да бъдат обработени наведнъж и как да се определи необходимата мощност (например, при база от 5 милиарда клиенти)?

Правилно ли разбирам, че първо търсехте минимално съвпадение (например, съвпадение по параграфи), а след това просто експортирахте целия документ и го изпращахте в контекста на LLM?

Как ще бъде стартирана и работи тази модел/услуга, като се има предвид, че SMS трябва да бъде изпратена в конкретно време според графика?

Ако това е API, какво ще има в тялото на входящия HTTP заявка и какво връща моделът?

Т.е. трябва да следим не само метриките за качество на модела, но и данните, върху които се базира този модел, правилно?

По-опростен пример: изпращане на SMS с предложение за купуване на колбаса, но започва православният пост — какво се променя в този случай и на какво трябва да се обърне внимание?

Банката [име] иска да изпраща SMS за ново ипотечно предложение само на целеви клиенти, а не на всички. Какъв модел е необходим тук и какво е важно да се вземе предвид от бизнес гледна точка?

Ще опаковаме модела в контейнер, нали?

Какво точно проверява Kubernetes преди да стартира услуга (готовност)?

Кои ML модели, освен LLM, познаваш от гледна точка на бизнес приложението?

Какъв е опитът ти с Kubernetes и Docker?

Според теб, всички статистически метрики за качество се считат за еднакви, има ли нюанси?

Има още статистически метрики за качеството на модела — какви са те?

Услугата на модела постоянно замръзва и веднъж седмично към него изпращат клиенти — не изглежда ли това неефективно и какво може да се направи?

Как определяме необходимата капацитет на инфраструктурата за модела?

Какво се случва с данните след като моделът ги оцени?

Как точно ще се развие моделът — например, на виртуална машина? Къде точно?

Какво още трябва да проверяваме/следим при изпълнение на batch задача, освен спазването на крайния срок?

Променя се ставката на Централната банка, съответно се променят и условията по кредита (сума, ставка) — какво може да се промени в модела/кампанията при това?

Как моделът взаимодейства с данните, когато вече е в продукция?