Wie kann die Qualität der Arbeit des Überwachungs-/Untersuchungssystems für Vorfälle bewertet werden?
Senior
149
Machine Learning / AI
3608
0
Wie man im LangGraph-Zustand große Mengen an Informationen speichert, die über die API erhalten wurden, sie innerhalb des Tools verwendet, aber keine unnötigen Daten in den LLM-Kontext überträgt? Zum Beispiel sieht das LLM nur die ID und die Namen der Spezialisten, während das Tool deren Zeitplan und zusätzliche Daten erhält.
Senior
148
147
Wie trainiert man ein LLM, um nicht zu antworten, wenn keine Informationen im Kontext vorhanden sind?
Senior
146
Wie man in der Praxis ein Modell in einem bestimmten Feld dazu bringt, nur Werte aus einer kurzen Liste von String-ID's und keine anderen Symbole zu generieren?
Senior
146
Was möchtest du im Allgemeinen machen?
Middle
143
142
Wie übergibt man auf Code-Ebene ein Modellschema für strukturierte Ausgabe?
Senior
141
Erzählen Sie mehr über den KV-Cache: wie er funktioniert und woher er stammt, beginnend mit der Transformer-Architektur.
Senior
140
Was kann man tun, wenn ein bereitgestellter Agent zu lange antwortet oder nicht genug Speicher für die Unterbringung eines LLM hat?
Senior
140
Wie haben Sie den Dienst zur Verarbeitung von Pull Requests implementiert und bereitgestellt?
Senior
139
Sieht der Orchestrator die Ergebnisse der Aufrufe der Subagent-Tools oder nur die endgültige Ausgabe des Subagents selbst?
Senior
138
Welche weiteren Optimierungsmethoden können verwendet werden, um die Inferenz zu beschleunigen oder zumindest das Modell in 12 GB VRAM auf einer RTX 3090 unterzubringen?
Senior
135
Wie überprüft man, ob LLM-as-a-Judge die Qualität korrekt bewertet, und wie kalibriert man sie?
Senior
133
Wie ist der Orchestrator aufgebaut: Welches Framework und welche Architektur werden verwendet, was macht er, ist er einstufig oder kann er mehrmals nachdenken, bevor er antwortet?
Senior
132
Wie erhält man eine formalisierte, strukturierte Antwort, zum Beispiel bei Verwendung von strukturiertem Output?
Senior
132
Warum hast du dich entschieden, deinen aktuellen Job zu verlassen?
Middle
130
Wer war an der Feinabstimmung der Modelle beteiligt?
Middle
125
Wie ist deine aktuelle Teamzusammensetzung?
Middle
117
Wie wirkt sich das Wachstum des Dialogs und des Kontexts auf die Geschwindigkeit der Antwortverarbeitung aus?
Senior
117