157
Machine Learning / AI
3608
0
Kas kasutate LangGraphis olekut ja edastate kogu oleku konteksti?
Senior
157
Kuidas salvestada LangGraph'i olekusse suur hulk teavet, mis on saadud API kaudu, kasutada seda tööriistas sees, kuid mitte edastada liigseid andmeid LLM-i konteksti? Näiteks näeb LLM ainult spetsialistide ID-d ja nimesid, samas kui tööriist saab nende ajakava ja täiendavaid andmeid.
Senior
154
Mida saab teha, kui pikaajalise töö ajal agendi kontekst järk-järgult täitub?
Senior
154
149
Kuidas saab hinnata intsidentide jälgimise/uurimise süsteemi töö kvaliteeti?
Senior
149
Kuidas praktikas tasandil tagada, et mudel genereerib konkreets välja ainult lühikesest stringi ID-de nimekirjast ja mitte ühtegi muud sümbolit?
Senior
148
146
Kuidas treenida LLM-i mitte vastama, kui kontekstis teavet pole?
Senior
146
Mida saab teha, kui juurutatud agent vastab liiga aeglaselt või mälu LLM paigutamiseks ei ole piisavalt?
Senior
144
Rääkige meile rohkem KV-vahemälust: kuidas see töötab ja kust see tuleb, alustades Transformer arhitektuurist.
Senior
141
Kuidas edastada mudeli skeem struktureeritud väljundi jaoks kooditasandil?
Senior
141
Kuidas te rakendasite ja juurutate teenust pull requestide töötlemiseks?
Senior
139
Kas orkestrator näeb subagendi tööriistade kõnede tulemusi või ainult subagendi enda lõpptulemust?
Senior
138
Millised teised optimeerimismeetodid võivad olla kasutatavad inferentsi kiirendamiseks või vähemalt mudeli paigutamiseks 12 GB VRAM RTX 3090-sse?
Senior
135
Kuidas on üles ehitatud orkestrator: millist raamistikku ja arhitektuuri kasutatakse, mida ta teeb, kas on ühe sammu või võib mitu korda mõelda enne vastamist?
Senior
134
Kuidas saavutada formaliseeritud ja struktureeritud vastus, näiteks kasutades struktureeritud väljundit?
Senior
134
Kuidas kontrollida, et LLM-as-a-Judge hindab kvaliteeti õigesti ja kuidas seda kalibreerida?
Senior
133
Millised on uute tokenite proovivõtmise võimalused LLM-is?
Senior
133
Mis on teie praegune meeskonna koosseis?
Middle
127