Qual è la differenza tra pooling mean/max e pooling apprendibile?
Machine Learning / AI
Come scegliere la dimensione del vettore di embedding?
Cos'è NSP (previsione della frase successiva) e perché RoBERTa l'ha abbandonata?
Quali sono le limitazioni di Whisper e come aggirarle (long-form, allucinazioni)?
Cos'è il meta-prompting e quali sono i suoi casi d'uso?
Cos'è LoRA e perché funziona (ipotesi di rango basso)?
Perché è necessario bias=False negli strati lineari negli LLM moderni?
Cos'è il cross-encoder QA e qual è il formato di input?
Progetta un sistema di assistente vocale con bassa latenza (<500 ms) end-to-end.
Quali sono i problemi di BERT nelle attività di generazione del testo?
Cos'è la ricerca a fascio e perché viene usata raramente per la generazione aperta?
Quali formati di compressione (binario, quantizzazione scalare) ci sono in VDB?
Qual è il ruolo dei filtri payload nel database vettoriale?
Cos'è la filter bubble e come viene rilevata?
Qual è l'idea dell'algoritmo Byte Pair Encoding (BPE)? Descrivi i passaggi di addestramento.
Cos'è DocVQA e quali modelli sono popolari lì?