Machine Learning / AI

Data una stringa che contiene lettere e numeri. Trova il numero massimo che appare nella stringa (considerando le cifre consecutive come un unico numero).

Middle

Ozon Fresh

Con cosa viene moltiplicato il vettore Q durante la decodifica e cosa si ottiene?

Quali sono le opzioni di campionamento dei nuovi token in LLM?

Senior

2gis

Cosa si fa con i logit prima del campionamento e quali parametri di campionamento conosci?

Quali posizioni stai considerando e quali compiti ti sembrano più interessanti?

Senior

Точка

Cos'è il termine 'PropNail/TopNail Optimization' che hai usato?

Senior

ivi

Come ottenere una risposta formalizzata e strutturata, ad esempio utilizzando l'output strutturato?

Senior

2gis

Quanto è importante o critica per te l'accreditamento IT dell'azienda?

Senior

Точка

Perché una LLM quantizzata può funzionare più velocemente e perché a volte la quantizzazione, al contrario, rallenta l'inferenza?

Come gestire la tabella nel documento durante la preparazione dei dati per RAG?

Senior

2gis

Perché la memorizzazione nella cache delle query utente precise di solito offre un valore commerciale limitato e cosa intendevate esattamente con caching delle risposte?

Immagina di lavorare con un modello in PyTorch e, dopo averlo impostato in modalità eval() vedi che le metriche su un set di test fisso di 10.000 esempi cambiano ad ogni esecuzione. Fissi lo stato iniziale dei generatori di numeri casuali per la riproducibilità: dove potrebbe essere nascosta un'altra fonte di variazioni? Spiega il ruolo di Dropout, BatchNorm e torch.no_grad() e nomina le metriche con soglie con cui verificherai la stabilità dei risultati.

Fornisci un esempio in cui un uso scorretto di BatchNorm in modalità `eval()` ha portato a errori nelle previsioni.

Cosa bisogna fare dopo il retrieval per formare la risposta all'utente e come valutare la qualità della generazione in RAG?

Senior

2gis

Raccontaci come funziona in generale la pipeline RAG: quali fasi include?

Senior

2gis

Parliamo più dettagliatamente della cache KV: come funziona e da dove proviene, partendo dall'architettura Transformer.

Senior

2gis

Esercizio pratico La query SQL su 80 milioni di messaggi crea duplicati dopo il JOIN. Qual è l'azione migliore da iniziare per prima? - Verificare la cardinalità del JOIN, le chiavi e il piano di esecuzione prima dell'ottimizzazione. - Creare un indice su un campo di join. - Esportare il risultato in CSV e rimuovere i duplicati in Python. - Aggiungere sempre DISTINCT a tutte le colonne. - Aggiungere DISTINCT dopo aver verificato il risultato sull'estratto. - Verificare le chiavi di join e l'unicità di entrambe le tabelle.

Come trasmettere tecnicamente solo una parte dello stato in LangGraph, invece di tutto lo stato?

Senior

2gis

Fornisci un esempio di come hai identificato e risolto un problema di esempi in conflitto in un progetto reale.

Perché non si può collegare direttamente un LLM esterno in un servizio di produzione nel fintech?

Senior

Точка