Python

Begrijp ik het goed dat u eerst naar de minimale overeenkomst zocht (bijvoorbeeld, overeenkomst per alinea), en vervolgens gewoon het hele document exporteerde en naar de context van de LLM stuurde?

Hoeveel klanten moeten er tegelijk worden verwerkt en hoe bepaal je de benodigde capaciteit (bijvoorbeeld met een database van 5 miljard klanten)?

Hoe wordt dit model/deze service gelanceerd en gewerkt, rekening houdend met het feit dat SMS op een specifiek tijdstip volgens een schema moet worden verzonden?

Als dit een API is, wat staat er in de body van de inkomende HTTP-aanvraag en wat retourneert het model?

Een eenvoudiger voorbeeld: het versturen van SMS met een aanbieding om worst te kopen, maar het begint de orthodoxe vasten — wat verandert er dan en waar moet je op letten?

Dat betekent dat je niet alleen de kwaliteitsmetingen van het model moet monitoren, maar ook de gegevens waarop dit model is gebaseerd, toch?

De bank [naam] wil SMS-berichten sturen over een nieuwe hypotheekaanbieding, maar alleen naar gerichte klanten, niet naar alle klanten. Welk model is hier nodig en wat is belangrijk om rekening mee te houden vanuit zakelijk oogpunt?

We gaan het model in een container verpakken, toch?

Wat controleert Kubernetes precies voordat een service wordt gestart (gereedheid)?

Welke ML-modellen, behalve LLM, ken je vanuit het oogpunt van zakelijke toepassing?

Wat is je ervaring met Kubernetes en Docker?

Volgens jou worden alle statistische kwaliteitsmaten als gelijk beschouwd, zijn er nuances?

De modelservice hangt voortdurend vast en er worden eens per week klanten naartoe gestuurd — lijkt dit niet inefficiënt, en wat kan eraan gedaan worden?

Zijn er nog statistische maatstaven voor de kwaliteit van het model — welke zijn dat?

Wat gebeurt er met de gegevens nadat het model ze heeft beoordeeld?

Wat moet er nog meer gecontroleerd/gemonitord worden bij het uitvoeren van een batch-job, naast het naleven van de deadline?

Hoe bepalen we de benodigde infrastructuurcapaciteit voor het model?

Hoe wordt het model precies uitgerold — bijvoorbeeld op een virtuele machine? Waar precies?

De rente van de centrale bank verandert, dus de voorwaarden van de lening (bedrag, rente) veranderen ook — wat kan er in dit proces veranderen in het model/de campagne?

Hoe gaat het model om met gegevens wanneer het al in productie is?