¿Cómo se puede evaluar la calidad del trabajo del sistema de monitoreo/investigación de incidentes?
Senior
149
Machine Learning / AI
3608
0
¿Cómo guardar en el estado de LangGraph una gran cantidad de información obtenida a través de la API, usarla dentro de la herramienta, pero sin pasar datos innecesarios al contexto de LLM? Por ejemplo, LLM solo ve el ID y los nombres de los especialistas, mientras que la herramienta recibe su horario y datos adicionales.
Senior
148
147
¿Cómo entrenar a un LLM para que no responda cuando no tiene información en el contexto?
Senior
146
¿Cómo hacer que en la práctica un modelo en un campo específico genere solo valores de una lista corta de ID de cadenas y ningún otro símbolo?
Senior
146
142
¿Qué te gustaría hacer en general?
Middle
141
¿Cómo pasar un esquema de modelo para salida estructurada a nivel de código?
Senior
141
¿Qué se puede hacer si un agente desplegado responde demasiado lentamente o no hay suficiente memoria para alojar un LLM?
Senior
140
Cuéntenos más sobre la caché KV: cómo funciona y de dónde proviene, comenzando con la arquitectura Transformer.
Senior
140
¿Cómo implementó y desplegó el servicio para procesar pull requests?
Senior
139
¿El orquestador ve los resultados de las llamadas a las herramientas del subagente o solo la salida final del propio subagente?
Senior
137
¿Qué otros métodos de optimización se pueden utilizar para acelerar la inferencia o al menos colocar el modelo en 12 GB de VRAM en una RTX 3090?
Senior
135
¿Cómo verificar que LLM-as-a-Judge evalúa correctamente la calidad y cómo calibrarla?
Senior
133
¿Cómo lograr una respuesta formalizada y estructurada, por ejemplo, al usar output estructurado?
Senior
132
¿Cómo está construido el orquestador: qué marco y arquitectura se utilizan, qué hace, es de un solo paso o puede razonar varias veces antes de responder?
Senior
132
¿Por qué decidiste dejar tu trabajo actual?
Middle
128
¿Quién estuvo involucrado en la afinación de los modelos?
Middle
121
¿Cuál es la composición actual de tu equipo?
Middle
117
¿Cómo afecta el crecimiento del diálogo y el contexto a la velocidad de procesamiento de respuestas?
Senior
117