Python

Verstehe ich richtig, dass Sie zunächst die minimale Übereinstimmung gesucht haben (z.B. Übereinstimmung nach Absätzen), und dann einfach das gesamte Dokument exportiert und in den Kontext des LLM gesendet haben?

Wie viele Kunden müssen gleichzeitig verarbeitet werden und wie bestimmt man die erforderliche Kapazität (zum Beispiel bei einer Basis von 5 Milliarden Kunden)?

Wie wird dieses Modell/dienst gestartet und betrieben, da SMS zu einer bestimmten Zeit nach Zeitplan gesendet werden muss?

Wenn dies eine API ist, was befindet sich im Body der eingehenden HTTP-Anfrage und was gibt das Modell zurück?

Ein einfacheres Beispiel: SMS-Versand mit einem Angebot zum Kauf von Wurst, aber es beginnt die orthodoxe Fastenzeit — was ändert sich in diesem Fall und worauf ist zu achten?

Sollte man also nicht nur die Qualitätsmetriken des Modells überwachen, sondern auch die Daten, auf denen dieses Modell basiert?

Die Bank [Name] möchte SMS über ein neues Hypothekenangebot nur an Zielkunden senden, nicht an alle Kunden. Welches Modell ist hier erforderlich und was ist aus geschäftlicher Sicht wichtig zu beachten?

Wir werden das Modell in einen Container packen, oder?

Was überprüft Kubernetes genau vor dem Start eines Dienstes (Bereitschaft)?

Welche ML-Modelle, außer LLM, kennst du aus Sicht der Geschäftsanwendung?

Welche Erfahrung hast du mit Kubernetes und Docker?

Glaubst du, dass alle statistischen Qualitätsmetriken gleich betrachtet werden, oder gibt es Nuancen?

Der Modellservice hängt ständig und einmal pro Woche werden Kunden dorthin geschickt — erscheint das nicht ineffizient und was kann man tun?

Welche weiteren statistischen Metriken zur Modellqualität gibt es?

Was passiert mit den Daten, nachdem das Modell sie bewertet hat?

Was muss bei der Ausführung eines Batch-Jobs noch überprüft/überwacht werden, außer die Einhaltung der Frist?

Wie bestimmen wir die erforderliche Infrastrukturkapazität für das Modell?

Wie genau wird das Modell bereitgestellt — zum Beispiel auf einer virtuellen Maschine? Wo genau?

Der Leitzins der Zentralbank ändert sich, entsprechend ändern sich die Kreditbedingungen (Betrag, Zinssatz) — was könnte sich in diesem Zusammenhang im Modell/der Kampagne ändern?

Wie interagiert das Modell mit den Daten, wenn es bereits in der Produktion ist?