Жұмысыңызда қандай ірі тілдік модельдерді қолданасыз?

C/C++ контекстінде үлкен тілдік модельдер (LLM) әдетте тікелей қолданылмайды, себебі олар елеулі ресурстар мен арнайы кітапханаларды талап етеді. Алайда, сыртқы қызметтердің API-ларын пайдалану арқылы, мысалы, OpenAI GPT сияқты, HTTP сұраулар арқылы LLM-ге қол жеткізуге болады.

C++ тілінде libcurl кітапханасын пайдаланып, LLM API-не HTTP сұрауын қолданудың мысалы:

#include <curl/curl.h>
#include <iostream>

int main() {
    CURL *curl = curl_easy_init();
    if(curl) {
        curl_easy_setopt(curl, CURLOPT_URL, "https://api.openai.com/v1/chat/completions");
        // Мұнда API кілті мен модель параметрлерімен сұрау тақырыптары мен денесін қосу керек
        // Қарапайым мысал толық емес
        CURLcode res = curl_easy_perform(curl);
        if(res != CURLE_OK)
            std::cerr << "curl_easy_perform() сәтсіз аяқталды: " << curl_easy_strerror(res) << std::endl;
        curl_easy_cleanup(curl);
    }
    return 0;
}

Осылайша, C/C++ тілінде LLM-дерді көбінесе сыртқы қызметтер арқылы біріктіреді, ал модельдерді жергілікті іске қоспайды.