Kaip galima įvertinti incidentų stebėjimo/tyrimo sistemos darbo kokybę?
Senior
149
Machine Learning / AI
3608
0
Kaip saugoti LangGraph būsenoje didelį kiekį informacijos, gautos per API, naudoti ją įrankio viduje, bet ne perduoti nereikalingų duomenų į LLM kontekstą? Pavyzdžiui, LLM mato tik specialistų ID ir vardus, o įrankis gauna jų tvarkaraštį ir papildomus duomenis.
Senior
148
147
Kaip praktiškai užtikrinti, kad modelis konkrečiame lauke generuotų tik trumpo sąrašo eilutės ID reikšmes ir jokių kitų simbolių?
Senior
146
Kaip išmokyti LLM neatsakyti, kai nėra informacijos kontekste?
Senior
144
142
Kaip perduoti modelio schemą struktūruotam išėjimui kodo lygyje?
Senior
141
Ką galima padaryti, jei išdėstytas agentas per ilgai atsako arba trūksta atminties LLM talpinimui?
Senior
140
Kaip įgyvendinote ir įdiegėte paslaugą pull request'ų apdorojimui?
Senior
139
Ar orkestratorius mato subagento įrankių skambučių rezultatus ar tik paties subagento galutinį išvestį?
Senior
137
Papaskinkite daugiau apie KV talpyklą: kaip ji veikia ir iš kur ji kyla, pradedant nuo Transformer architektūros.
Senior
136
Kokios kitos optimizacijos metodai gali būti naudojami inferencijos pagreitinimui arba bent jau modelio įkėlimui į 12 GB VRAM RTX 3090?
Senior
135
Kaip patikrinti, ar LLM-as-a-Judge teisingai įvertina kokybę ir kaip ją kalibruoti?
Senior
133
Kaip pasiekti formalizuotą, struktūruotą atsakymą, pavyzdžiui, naudojant struktūruotą išvestį?
Senior
132
Kaip sukonstruotas orkestratorius: kokia yra naudojama sistema ir architektūra, ką jis daro, ar jis vieno žingsnio ar gali kelis kartus mąstyti prieš atsakymą?
Senior
130
Kodėl nusprendėte palikti savo dabartinį darbą?
Middle
124
Kaip dialogo ir konteksto augimas įtakoja atsakymų apdorojimo greitį?
Senior
117
Kokios yra naujų žodžių ėmimo galimybės LLM?
Senior
116
Kas dalyvavo modelių derinime?
Middle
115
Koks yra jūsų dabartinės komandos sudėtis?
Middle
113