Mit lehet tenni, amikor hosszabb munka után az ügynök kontextusa fokozatosan megtelik?
Senior
151
Machine Learning / AI
3608
0
Hogyan tároljuk a LangGraph állapotában az API-n keresztül szerzett nagy mennyiségű információt, használjuk az eszközön belül, de ne adjunk át felesleges adatokat az LLM kontextusába? Például az LLM csak az szakemberek azonosítóját és nevét látja, míg az eszköz megkapja az ütemezésüket és további adatokat.
Senior
150
Hogyan értékelhető a riasztórendszer/incidensnyomozó rendszer munkájának minősége?
Senior
149
147
Hogyan lehet gyakorlatban elérni, hogy egy modell egy adott mezőben csak egy rövid sztring ID listából származó értékeket generáljon, és semmilyen más szimbólumot?
Senior
146
Hogyan taníthatunk egy LLM-et arra, hogy ne válaszoljon, ha nincs információ a kontextusban?
Senior
146
Általánosságban mit szeretnél csinálni?
Middle
145
Mit lehet tenni, ha egy telepített agent túl lassan válaszol, vagy nincs elég memória az LLM elhelyezéséhez?
Senior
144
142
Hogyan lehet a kódszinten átadni egy modell sémát strukturált kimenethez?
Senior
141
Meséljen többet a KV-cache-ről: hogyan működik és honnan származik, kezdve a Transformer architektúrával.
Senior
140
Hogyan valósította meg és telepítette a pull request feldolgozó szolgáltatást?
Senior
139
Az orchestrátor látja az al-agens eszközök hívásainak eredményeit, vagy csak az al-agens saját végső kimenetét?
Senior
138
Ki vett részt a modellek hangolásában?
Middle
135
Milyen egyéb optimalizációs módszerek használhatók az inference gyorsítására vagy legalább a modell 12 GB VRAM-on való elhelyezésére az RTX 3090-en?
Senior
135
Hogyan ellenőrizhető, hogy az LLM-as-a-Judge helyesen értékeli a minőséget, és hogyan kalibrálható?
Senior
133
Hogyan épül fel az orchestrátor: melyik keretrendszer és architektúra van használatban, mit csinál, egylépcsős vagy többször gondolkodik-e válaszadás előtt?
Senior
132
Hogyan érhető el formalizált, strukturált válasz, például strukturált kimenet használatakor?
Senior
132
Milyen mintavételi lehetőségek vannak az új tokenekhez az LLM-ben?
Senior
130
Mi a jelenlegi csapat összetétele?
Middle
123