Comment peut-on évaluer la qualité du travail du système de surveillance/enquête sur les incidents?
Senior
149
Machine Learning / AI
3608
0
Comment enregistrer dans l'état de LangGraph une grande quantité d'informations obtenues via l'API, les utiliser dans l'outil, mais sans transmettre d'informations superflues au contexte LLM ? Par exemple, le LLM ne voit que l'ID et les noms des spécialistes, tandis que l'outil reçoit leur emploi du temps et des données supplémentaires.
Senior
148
147
Comment entraîner un LLM à ne pas répondre en l'absence d'informations dans le contexte?
Senior
146
Comment faire en sorte qu'un modèle dans un champ spécifique génère uniquement des valeurs d'une courte liste d'ID de chaînes et aucun autre symbole en pratique?
Senior
146
Que aimeriez-vous faire en général?
Middle
145
142
Comment transmettre un schéma de modèle pour une sortie structurée au niveau du code?
Senior
141
Parlez-nous plus en détail du cache KV : comment il fonctionne et d'où il provient, en commençant par l'architecture Transformer.
Senior
140
Que peut-on faire si un agent déployé répond trop lentement ou s'il n'y a pas assez de mémoire pour héberger un LLM?
Senior
140
Comment avez-vous implémenté et déployé le service pour traiter les pull requests?
Senior
139
L'orchestrateur voit-il les résultats des appels aux outils du sous-agent ou seulement la sortie finale du sous-agent lui-même?
Senior
138
Quelles autres méthodes d'optimisation peuvent être utilisées pour accélérer l'inférence ou au moins faire tenir le modèle dans 12 Go de VRAM sur une RTX 3090?
Senior
135
Comment vérifier que LLM-as-a-Judge évalue correctement la qualité et comment la calibrer?
Senior
133
Comment est construit l'orchestrateur : quel cadre et architecture sont utilisés, que fait-il, est-il à un seul étape ou peut-il raisonner plusieurs fois avant de répondre ?
Senior
132
Comment obtenir une réponse formalisée et structurée, par exemple lors de l'utilisation de la sortie structurée?
Senior
132
Pourquoi avez-vous décidé de quitter votre emploi actuel?
Middle
130
Quelles sont les options d'échantillonnage de nouveaux tokens dans LLM?
Senior
128
Qui a participé à l'ajustement des modèles ?
Middle
125
Quelle est la composition actuelle de votre équipe ?
Middle
117