Sobes.tech
Middle

Τι είναι το function calling και το tool use στα σύγχρονα API LLM;

sobes.tech AI

Απάντηση από AI

Η κλήση λειτουργίας σε σύγχρονες API LLM είναι η δυνατότητα του μοντέλου όχι μόνο να παράγει κείμενο, αλλά και να καλεί προκαθορισμένες λειτουργίες με παραμέτρους που διαμορφώνει το ίδιο βάσει του αιτήματος του χρήστη. Αυτό επιτρέπει την ενσωμάτωση του LLM με εξωτερικές υπηρεσίες ή την εκτέλεση συγκεκριμένων ενεργειών, όπως η λήψη καιρού ή η κράτηση εισιτηρίου.

Η χρήση εργαλείων είναι μια ευρύτερη έννοια, όπου το LLM χρησιμοποιεί εξωτερικά εργαλεία (API, βάσεις δεδομένων, υπολογιστές κ.ά.) για την απόκτηση ενημερωμένων πληροφοριών ή την εκτέλεση πολύπλοκων υπολογισμών που υπερβαίνουν τις εσωτερικές του γνώσεις.

Παράδειγμα: με την ερώτηση "Δείξε τον καιρό στη Μόσχα", το μοντέλο μπορεί να δημιουργήσει μια κλήση στη λειτουργία getWeather(city="Μόσχα"), η οποία θα επιστρέψει ενημερωμένα δεδομένα, και το LLM θα τα ενσωματώσει στην απάντηση.