Python

¿Cuántos clientes se deben procesar a la vez y cómo determinar la capacidad requerida (por ejemplo, con una base de 5 mil millones de clientes)?

¿Entiendo correctamente que primero buscaban la coincidencia mínima (por ejemplo, la coincidencia por párrafos), y luego simplemente exportaban todo el documento completo y lo enviaban al contexto del LLM?

¿Cómo se lanzará y operará este modelo/servicio, teniendo en cuenta que el SMS debe enviarse en un momento específico según un horario?

Si esto es una API, ¿qué habrá en el cuerpo de la solicitud HTTP de entrada y qué devuelve el modelo?

¿Es correcto que debemos monitorear no solo las métricas de calidad del modelo, sino también los datos en los que se basa este modelo?

Un ejemplo más simple: envío de SMS con una oferta para comprar embutidos, pero llega la Cuaresma ortodoxa — ¿qué cambia en ese caso y en qué hay que prestar atención?

El banco [nombre] quiere enviar SMS sobre una nueva oferta hipotecaria solo a clientes específicos, no a todos. ¿Qué modelo se necesita aquí y qué aspectos son importantes desde el punto de vista del negocio?

¿Qué verifica exactamente Kubernetes antes de iniciar un servicio (preparación)?

¿Vamos a envolver el modelo en un contenedor, no?

¿Qué modelos de ML, además de LLM, conoces desde el punto de vista de la aplicación empresarial?

¿Cuál es tu experiencia con Kubernetes y Docker?

Desde tu punto de vista, ¿todas las métricas estadísticas de calidad se consideran iguales, o hay matices?

¿Cómo determinamos la capacidad requerida de infraestructura para el modelo?

¿Cómo se desplegará exactamente el modelo, por ejemplo, en una máquina virtual? ¿Dónde exactamente?

¿Cuáles son las otras métricas estadísticas de calidad del modelo?

El servicio del modelo está constantemente colgado y una vez a la semana envían clientes a él — ¿no parece esto ineficiente y qué se puede hacer?

¿Qué más se debe verificar/monitorear al ejecutar un trabajo por lotes, además de cumplir con la fecha límite?

¿Qué sucede con los datos después de que el modelo los evalúa?

La tasa del Banco Central cambia, por lo tanto, las condiciones del préstamo (cantidad, tasa) también cambian — ¿qué puede cambiar en el modelo/campaña en este proceso?

¿Cómo interactúa el modelo con los datos cuando ya está en producción?