Kako oceniti kvalitet rada sistema za praćenje/istraživanje incidenata?
Senior
149
Machine Learning / AI
3608
0
Kako sačuvati u stanju LangGraph velike količine informacija dobijenih putem API-ja, koristiti ih unutar alata, ali ne preneti suvišne podatke u kontekst LLM? Na primer, LLM vidi samo ID i imena stručnjaka, dok alat dobija njihov raspored i dodatne podatke.
Senior
148
147
Kako obučiti LLM da ne odgovara kada nema informacija u kontekstu?
Senior
146
Kako u praksi naterati model u određenom polju da generiše samo vrednosti iz kratke liste ID-ova u nizu i nijedne druge simbole?
Senior
146
Šta biste želeli da radite uopšteno?
Middle
143
142
Kako na nivou koda preneti šemu modela za strukturirani izlaz?
Senior
141
Pružite više informacija o KV kešu: kako funkcioniše i odakle potiče, počevši od arhitekture Transformer.
Senior
140
Šta možete učiniti ako implementovani agent odgovara predugo ili nema dovoljno memorije za smeštanje LLM?
Senior
140
Kako ste implementirali i rasporedili servis za obradu pull requestova?
Senior
139
Da li orkестратор vidi rezultate poziva alata subagenta ili samo završni output samog subagenta?
Senior
138
Koje još metode optimizacije mogu biti korišćene za ubrzanje inferenasa ili bar za smještanje modela u 12 GB VRAM RTX 3090?
Senior
135
Kako proveriti da li LLM-as-a-Judge tačno procenjuje kvalitet i kako ga kalibrisati?
Senior
133
Kako je orkestrator građen: koji okvir i arhitektura se koriste, šta radi, da li je jednostepeni ili može više puta razmišljati pre odgovora?
Senior
132
Kako postići formalizovan, strukturiran odgovor, na primer pri korišćenju strukturiranog izlaza?
Senior
132
Zašto ste odlučili da napustite svoj trenutni posao?
Middle
130
Koje su opcije uzorkovanja novih tokena u LLM?
Senior
128
Ko je bio uključen u podešavanje modela?
Middle
125
Ko je sastav vašeg trenutnog tima?
Middle
117