Python

Καταλαβαίνω σωστά ότι αρχικά αναζητούσατε την ελάχιστη αντιστοιχία (π.χ., αντιστοιχία ανά παράγραφο), και στη συνέχεια απλώς εξάγετε ολόκληρο το έγγραφο και το στέλνετε στο πλαίσιο του LLM;

Πόσοι πελάτες πρέπει να επεξεργαστούν ταυτόχρονα και πώς καθορίζεται η απαιτούμενη ισχύς (για παράδειγμα, με μια βάση 5 δισεκατομμυρίων πελατών);

Πώς θα ξεκινήσει και θα λειτουργήσει αυτό το μοντέλο/υπηρεσία, λαμβάνοντας υπόψη ότι το SMS πρέπει να σταλεί σε συγκεκριμένη ώρα σύμφωνα με το πρόγραμμα;

Αν αυτό είναι ένα API, τι θα υπάρχει στο σώμα του εισερχόμενου HTTP αιτήματος και τι επιστρέφει το μοντέλο;

Ένα πιο απλό παράδειγμα: αποστολή SMS με προσφορά για αγορά λουκάνικων, αλλά ξεκινάει η ορθόδοξη νηστεία — τι αλλάζει σε αυτή την περίπτωση και τι πρέπει να προσέξετε;

Δηλαδή, πρέπει να παρακολουθούμε όχι μόνο τα μετρικά ποιότητας του μοντέλου, αλλά και τα δεδομένα πάνω στα οποία βασίζεται αυτό το μοντέλο, σωστά;

Η τράπεζα [όνομα] θέλει να στέλνει SMS σχετικά με μια νέα προσφορά υποθήκης μόνο σε στοχευμένους πελάτες, όχι σε όλους. Ποιο μοντέλο χρειάζεται εδώ και τι είναι σημαντικό να ληφθεί υπόψη από επιχειρηματική άποψη;

Θα τυλίξουμε το μοντέλο σε ένα κοντέινερ, σωστά;

Τι ελέγχει ακριβώς το Kubernetes πριν ξεκινήσει μια υπηρεσία (ετοιμότητα);

Ποια μοντέλα ML, εκτός από LLM, γνωρίζεις από την άποψη της επιχειρηματικής εφαρμογής;

Ποια είναι η εμπειρία σας με το Kubernetes και το Docker;

Κατά τη γνώμη σου, όλες οι στατιστικές μετρήσεις ποιότητας θεωρούνται ίδιες, υπάρχουν λεπτομέρειες;

Η υπηρεσία του μοντέλου συνεχώς κολλάει και κάθε εβδομάδα στέλνονται πελάτες — δεν φαίνεται να είναι αναποτελεσματικό, και τι μπορεί να γίνει;

Υπάρχουν κι άλλα στατιστικά μέτρα ποιότητας του μοντέλου — ποια είναι;

Τι συμβαίνει με τα δεδομένα μετά την αξιολόγησή τους από το μοντέλο;

Τι πρέπει να ελέγχεται/παρακολουθείται περαιτέρω κατά την εκτέλεση μιας παρτίδας εργασίας, εκτός από την τήρηση της προθεσμίας;

Πώς καθορίζουμε την απαιτούμενη χωρητικότητα υποδομής για το μοντέλο;

Πώς ακριβώς θα αναπτυχθεί το μοντέλο — για παράδειγμα, σε μια εικονική μηχανή; Πού ακριβώς;

Αλλάζει το επιτόκιο της Κεντρικής Τράπεζας, επομένως αλλάζουν και οι όροι του δανείου (ποσό, επιτόκιο) — τι μπορεί να αλλάξει στο μοντέλο/καμπάνια σε αυτή τη διαδικασία;

Πώς αλληλεπιδρά το μοντέλο με τα δεδομένα όταν βρίσκεται ήδη σε παραγωγή;