157
Machine Learning / AI
3608
0
Vai jūs izmantojat stāvokli LangGraph un nododat visu stāvokli kontekstā?
Senior
157
Kā saglabāt LangGraph stāvoklī lielu daudzumu informācijas, kas iegūta caur API, to izmantot iekļautajā rīkā, bet nepārsūtīt liekus datus LLM kontekstā? Piemēram, LLM redz tikai speciālistu ID un vārdus, bet rīks saņem viņu grafiku un papildu datus.
Senior
154
Ko var darīt, ja ilgstošas darba laikā aģenta konteksts pakāpeniski piepildās?
Senior
154
149
Kā var novērtēt incidentu uzraudzības/izmeklēšanas sistēmas darba kvalitāti?
Senior
149
Kā praksē nodrošināt, lai modelis konkrētā laukā ģenerē tikai īsa saraksta virknes ID vērtības un nekādas citas zīmes?
Senior
148
146
Kā apmācīt LLM, lai tas neatbildētu, ja kontekstā nav informācijas?
Senior
146
Ko var darīt, ja izvietotais aģents pārāk ilgi atbild vai nav pietiekami daudz atmiņas LLM izvietošanai?
Senior
144
Pastāstiet vairāk par KV kešatmiņu: kā tā darbojas un no kurienes tā nāk, sākot ar Transformer arhitektūru.
Senior
141
Kā nodot modeļa shēmu strukturētai izvadei līmeņa kodā?
Senior
141
Kā jūs īstenojāt un izvietojāt pakalpojumu pull pieprasījumu apstrādei?
Senior
139
Vai orkestrators redz subaģenta rīku izsaukumu rezultātus vai tikai paša subaģenta galīgo izvadi?
Senior
138
Kādi citi optimizācijas veidi var tikt izmantoti, lai paātrinātu inferenci vai vismaz novietotu modeli 12 GB VRAM RTX 3090?
Senior
135
Kā ir uzbūvēts orkestrators: kāds ir izmantotais ietvars un arhitektūra, ko tas dara, vai tas ir vienas solis vai var vairākas reizes domāt pirms atbildes?
Senior
134
Kā panākt formalizētu, strukturētu atbildi, piemēram, izmantojot strukturētu izvadi?
Senior
134
Kā pārbaudīt, vai LLM-as-a-Judge pareizi novērtē kvalitāti un kā to kalibrēt?
Senior
133
Kādi ir jaunu tokenu paraušanas varianti LLM?
Senior
133
Kāda ir jūsu pašreizējā komandas sastāvs?
Middle
127