Machine Learning / AI

Πώς να σχεδιάσετε έναν πράκτορα που απαντά στους χρήστες βάσει δεδομένων μιας συναλλακτικής βάσης: ποιο στοίβα και αρχιτεκτονική χρειάζονται, και αξίζει να εφαρμόσετε την πολυπρακτορεία;

Ποιες βελτιστοποιήσεις στην inference του standard LLM μπορούν να προταθούν αν το εταιρικό GPT λειτουργεί αργά;

Τι είναι η υποθετική αποκωδικοποίηση και πώς επιταχύνει τη δημιουργία;

Τι είναι το MoE (Μείγμα Ειδικών) και γιατί αυτή η αρχιτεκτονική μπορεί να είναι επωφελής για την inference;

Ανάλυσε ξεχωριστά το prefill και το decode: Q/K/V, μορφές πινάκων και διαφορές φάσεων.

Γιατί δεν πρέπει να χρησιμοποιείται το διανυσματικό RAG ως κύριος μηχανισμός για απαντήσεις σε συναλλακτικές βάσεις δεδομένων SQL;

Ορθή ακολουθία παρενθέσεων Ας θεωρήσουμε μια ακολουθία που αποτελείται από στρογγυλές, τετραγωνικές και αγκύλες '{', '}', '[', ']'. Το πρόγραμμα πρέπει να καθορίσει αν αυτή η ακολουθία παρενθέσεων είναι σωστή. - Μια κενή ακολουθία είναι σωστή. - Αν A είναι σωστή ακολουθία, τότε (A), [A], {A} είναι σωστά. - Αν A και B είναι σωστές ακολουθίες, τότε η AB είναι σωστή. Μορφή εισόδου: Μόνο μια γραμμή με την ακολουθία παρενθέσεων, που περιέχει όχι περισσότερα από 100000 παρενθέσεις. Μορφή εξόδου: Αν η ακολουθία είναι σωστή, το πρόγραμμα πρέπει να εμφανίσει 'yes', διαφορετικά 'no'.

Μετά το ID του token και τα embeddings, τι ακριβώς εισέρχεται στον decoder: ποια είναι η μορφή των αναπαραστάσεων, πώς προστίθεται η πληροφορία θέσης και τι συμβαίνει στη συνέχεια;

Τι συμβαίνει μετά στο μπλοκ Transformer αφού η προσοχή έχει δώσει το έξοδος διανύσματος;

Ποιο είναι το μέγεθος εξόδου του επιπέδου MLP;

Τι έγινε με τη συμμόρφωση στο σύστημα RAG;

Τι γίνεται με τα logits πριν το sampling και ποια παραμέτρους sampling γνωρίζεις;

Πώς διαμορφώνεται γενικά η διαδρομή μιας εφαρμογής ML/LLM από το Dockerfile και τον πηγαίο κώδικα μέχρι την αναπτυγμένη υπηρεσία και την κυκλοφορία χρηστών στο Kubernetes;

Με τι πολλαπλασιάζεται το διανύσμα Q κατά την αποκωδικοποίηση και τι προκύπτει;

Ποια σημαντικά θέματα σχετικά με εσάς ή το στυλ εργασίας σας θα θέλατε να επισημάνετε επιπλέον στον διευθυντή;

import unittest class Solution: def isvalid(self, s:str) -> bool: matching_brackets = { ")": "(", "]": "[", "}": "{", } stack: list[str] = [] for bracket in s: if bracket in "([{": stack.append(bracket) continue if bracket not in matching_brackets: return False if not stack or stack[-1] != matching_brackets[bracket]: return False stack.pop() return not stack class SolutionTest: def __init__(self): self.Solution = Solution() def run(self): test_cases = [ ("", True), ("()", True), ("(){}[]", True), ("(({}))", True), ("(", False), (")", False), ("(((", False), ("{[]}", False), ] for brackets, expected in test_cases: actual = self.Solution.isvalid(brackets) assert actual == expected, ( f"Lathos gia {brackets!r}" f"Perimene {expected}, alla lavo {actual}" ) print(f"Ola ta tests epityhhsan: {len(test_cases)}") if __name__ == "__main__": SolutionTest().run()

Ποιοι τύποι προσοχής υπάρχουν που επιτρέπουν την αποφυγή της τετραγωνικής πολυπλοκότητας της πλήρους αυτοπροσοχής σε ένα μακρύ πλαίσιο;

Ποιο IDE ή περιβάλλον χρησιμοποιείτε για εργασία με εργαλεία AI;

Τι χρησιμοποιήθηκε για τον καθαρισμό και την κανονικοποίηση των εγγράφων: Redis ή regex;

Γιατί μπορεί να λειτουργεί πιο γρήγορα το ποσοτικοποιημένο LLM και γιατί μερικές φορές η ποσοτικοποίηση, αντίθετα, επιβραδύνει την επεξεργασία;