Jak ocenić jakość pracy systemu monitorowania/dochodzenia w sprawie incydentów?
Senior
149
Machine Learning / AI
3608
0
Jak przechowywać w stanie LangGraph dużą ilość informacji uzyskanych przez API, używać ich wewnątrz narzędzia, ale nie przekazywać zbędnych danych do kontekstu LLM? Na przykład LLM widzi tylko ID i imiona specjalistów, a narzędzie otrzymuje ich harmonogram i dodatkowe dane.
Senior
148
147
Jak wytrenować LLM, aby nie odpowiadał w przypadku braku informacji w kontekście?
Senior
146
Jak w praktyce sprawić, by model w konkretnym polu generował tylko wartości z krótkiej listy ID tekstowych i żadnych innych symboli?
Senior
146
Co chciałbyś robić ogólnie?
Middle
145
142
Jak przekazać schemat modelu dla strukturalnego wyjścia na poziomie kodu?
Senior
141
Co można zrobić, jeśli wdrożony agent odpowiada zbyt długo lub brakuje pamięci na umieszczenie LLM?
Senior
140
Opowiedz więcej o pamięci podręcznej KV: jak działa i skąd się bierze, zaczynając od architektury Transformer.
Senior
140
Jak zaimplementowałeś i wdrożyłeś usługę obsługi pull requestów?
Senior
139
Czy orkiestrator widzi wyniki wywołań narzędzi subagenta, czy tylko końcowy output samego subagenta?
Senior
138
Jakie inne metody optymalizacji można zastosować, aby przyspieszyć inferencję lub przynajmniej umieścić model w 12 GB VRAM na RTX 3090?
Senior
135
Jak sprawdzić, czy LLM-as-a-Judge poprawnie ocenia jakość i jak ją skalibrować?
Senior
133
Jak uzyskać sformalizowaną, ustrukturyzowaną odpowiedź, na przykład przy użyciu ustrukturyzowanego wyjścia?
Senior
132
Jak jest zbudowany orkiestrator: jaki framework i architektura są używane, co on robi, czy jest jednokrokowy, czy może wielokrotnie rozważać przed odpowiedzią?
Senior
132
Jakie są opcje próbkowania nowych tokenów w LLM?
Senior
130
Dlaczego zdecydowałeś się odejść z obecnej pracy?
Middle
130
Kto był zaangażowany w strojenie modeli?
Middle
129
Jaki jest obecny skład twojego zespołu?
Middle
119