Čo by ste chceli robiť všeobecne?
Middle
155
Machine Learning / AI
3608
0
Čo možno urobiť, keď sa pri dlhšej práci agentov kontext postupne zapĺňa?
Senior
152
Ako uložiť v stave LangGraph veľké množstvo informácií získaných cez API, použiť ich v nástroji, ale ne prenášať zbytočné údaje do kontextu LLM? Napríklad, LLM vidí iba ID a mená odborníkov, zatiaľ čo nástroj dostáva ich rozvrh a doplnkové údaje.
Senior
150
Ako hodnotiť kvalitu práce systému sledovania/vyšetrovania incidentov?
Senior
149
147
Ako trénovať LLM, aby neodpovedal, keď v kontexte nie sú žiadne informácie?
Senior
146
Ako v praxi zabezpečiť, aby model v konkrétnom poli generoval iba hodnoty z krátkeho zoznamu ID-ov reťazcov a žiadne iné znaky?
Senior
146
Čo môžete urobiť, ak nasadený agent odpovedá príliš pomaly alebo nemá dostatok pamäte na umiestnenie LLM?
Senior
144
142
Kto sa podieľal na ladení modelov?
Middle
141
Ako na úrovni kódu odovzdať schému modelu pre štruktúrovaný výstup?
Senior
141
Povedzte nám viac o KV cache: ako funguje a odkiaľ pochádza, začínajúc architektúrou Transformer.
Senior
140
Ako ste implementovali a nasadili službu na spracovanie pull requestov?
Senior
139
O orchestrátor vidí výsledky volaní nástrojov subagent alebo iba konečný výstup samotného subagenta?
Senior
138
Aké ďalšie metódy optimalizácie je možné použiť na zrýchlenie inferenčného procesu alebo aspoň na umiestnenie modelu do 12 GB VRAM na RTX 3090?
Senior
135
Ako overiť, že LLM-as-a-Judge správne hodnotí kvalitu a ako ju kalibrovať?
Senior
133
Ako je zostavený orchestrátor: aký rámec a architektúra sa používajú, čo robí, je jednorazový alebo môže niekoľkokrát premýšľať pred odpoveďou?
Senior
132
Ako dosiahnuť formalizovanú, štruktúrovanú odpoveď, napríklad pri použití štruktúrovaného výstupu?
Senior
132
Aké sú možnosti odberu vzoriek nových tokenov v LLM?
Senior
131
Aké je zloženie vášho súčasného tímu?
Middle
125