157
Machine Learning / AI
3608
0
Χρησιμοποιείτε την κατάσταση στο LangGraph και περνάτε ολόκληρη την κατάσταση στο πλαίσιο;
Senior
157
Πώς να αποθηκεύσετε στο state του LangGraph μεγάλο όγκο πληροφοριών που λαμβάνονται μέσω API, να τις χρησιμοποιήσετε μέσα στο εργαλείο, αλλά χωρίς να μεταφέρετε περιττά δεδομένα στο πλαίσιο του LLM; Για παράδειγμα, το LLM βλέπει μόνο το ID και τα ονόματα των ειδικών, ενώ το εργαλείο λαμβάνει το πρόγραμμα τους και πρόσθετα δεδομένα.
Senior
154
Τι μπορεί να γίνει όταν, μετά από μακροχρόνια εργασία, το πλαίσιο του πράκτορα γεμίζει σταδιακά;
Senior
154
149
Πώς μπορούμε να αξιολογήσουμε την ποιότητα της εργασίας του συστήματος παρακολούθησης/ερευνών συμβάντων;
Senior
149
Πώς να κάνετε στην πράξη ένα μοντέλο σε ένα συγκεκριμένο πεδίο να παράγει μόνο τιμές από μια σύντομη λίστα με αναγνωριστικά συμβολοσειρών και κανένα άλλο σύμβολο;
Senior
148
146
Πώς να εκπαιδεύσετε ένα LLM να μην απαντά όταν δεν υπάρχουν πληροφορίες στο πλαίσιο;
Senior
146
Τι μπορεί να γίνει αν ένας αναπτυγμένος πράκτορας απαντά πολύ αργά ή δεν υπάρχει αρκετή μνήμη για την τοποθέτηση ενός LLM;
Senior
144
Πείτε μας περισσότερα για την cache KV: πώς λειτουργεί και από πού προέρχεται, ξεκινώντας από την αρχιτεκτονική Transformer.
Senior
141
Πώς να μεταδώσετε ένα σχήμα μοντέλου για δομημένη έξοδο σε επίπεδο κώδικα;
Senior
141
Πώς υλοποιήσατε και αναπτύξατε την υπηρεσία για την επεξεργασία pull request;
Senior
139
Ο οργανωτής βλέπει τα αποτελέσματα των κλήσεων των εργαλείων υπο-παραγγελιοδόχου ή μόνο το τελικό output του ίδιου του υπο-παραγγελιοδόχου;
Senior
138
Ποιες άλλες μέθοδοι βελτιστοποίησης μπορούν να χρησιμοποιηθούν για να επιταχυνθεί η inference ή τουλάχιστον να τοποθετηθεί το μοντέλο σε 12 GB VRAM σε RTX 3090;
Senior
135
Πώς να ελέγξετε ότι το LLM-as-a-Judge αξιολογεί σωστά την ποιότητα και πώς να το βαθμονομήσετε;
Senior
134
Πώς είναι δομημένος ο orchestrator: ποιο πλαίσιο και αρχιτεκτονική χρησιμοποιούνται, τι κάνει, είναι μονοβήμα ή μπορεί να σκεφτεί πολλές φορές πριν απαντήσει;
Senior
134
Πώς να επιτύχετε μια formalized και δομημένη απάντηση, για παράδειγμα κατά τη χρήση δομημένης εξόδου;
Senior
134
Ποιες είναι οι επιλογές δειγματοληψίας νέων tokens στο LLM;
Senior
133
Ποια είναι η τρέχουσα σύνθεση της ομάδας σας;
Middle
127