Čo je API OpenAI Assistants a aké má obmedzenia?

API asistentov od OpenAI je vmesnik za ustvarjanje in upravljanje pametnih asistentov, ki temeljijo na velikih jezikovnih modelih (LLM). Omogoča prilagajanje vedenja asistenta, integracijo zunanjih podatkov in orodij ter upravljanje dialogov z uporabniki.

Glavne omejitve API-ja lahko vključujejo:

• Omejitve zahtevkov — limiti na število klicev na minuto ali dan.
• Omejitve velikosti konteksta — največje število tokenov v zahtevku in odgovoru.
• Omejitve funkcionalnosti — na primer, podpora le določenim modelom ali funkcijam.
• Politike varnosti in zasebnosti — omejitve glede vrst podatkov, ki jih je mogoče obdelovati.

Primer uporabe bi lahko bil tak (pseudokod):

response = openai.assistants.create(
    model="gpt-4o",
    messages=[{"role": "user", "content": "Povej mi o vremenu v Moskvi"}]
)
print(response.choices[0].message.content)