Come valutare la qualità del retriever? Da dove ottenere una collezione di documenti per valutare le metriche?
Senior
362
Machine Learning / AI
3608
0
Cos'è vLLM e a cosa serve?
Senior
191
Hai un piccolo set di dati con recensioni di film in russo e la loro etichetta binaria di tonalità (etichette: 0 — negativo, 1 — positivo). Il tuo compito è implementare un pipeline completo in 15 minuti per addestrare un modello semplice di classificazione del testo senza usare encoder pre-addestrati come BERT, e mostrare la precisione (accuracy) su questi dati. reviews = [ "Questo film è semplicemente incredibile!", "Gioco degli attori orribile e trama noiosa.", "Mi è piaciuto ogni momento!", "Il film più brutto che abbia mai visto.", "Ottimo lavoro di regia e storia meravigliosa.", "Insoportabilmente noioso e prevedibile." ] labels = [1, 0, 1, 0, 1, 0]
Senior
183
Qual è la differenza tra Tensor Parallel Size e Data Parallel Size in vLLM?
Senior
183
Cos'è RAG e quale problema fondamentale risolve?
Senior
177
Quale parametro nel modello di embedding determina il numero massimo di token in ingresso? Cosa succede se si inseriscono più token del limite?
Senior
166
Come influisce un aumento di 4 volte della dimensione del batch sul tasso di apprendimento e perché? Come funziona la retropropagazione?
Senior
163
Parlami di te e della tua esperienza
Senior
160
Cos'è un modello di embedding e cos'è un token?
Senior
155
Cos'è la quantizzazione del modello e cosa succede ai pesi quando viene applicata in vLLM?
Senior
153
Cosa succede se si fornisce un contesto di 120.000 token in un LLM con un limite di 60.000?
Senior
151
Come vengono estratti i dati dal database vettoriale tramite una richiesta dell'utente?
Senior
151
Cos'è LangGraph, a cosa serve, come vengono implementati i rami e i passaggi condizionali? In cosa differiscono gli strumenti dai nodi?
Senior
140
Come è stata organizzata la ricerca di informazioni nel database vettoriale? Perché si è usato Qdrant?
Senior
139