Machine Learning / AI

Hoe ontwerp je een opslag- en zoek systeem voor 10.000 Telegram-kanalen met 300.000 berichten per dag, met een latency van minder dan 2 seconden?

Als de worker synchon is, zal hij batching hebben?

Kun je embeddings synchroon direct in de API-endpoint beschouwen? Wat gebeurt er als je embeddings berekent voor een grote stroom documenten in een FastAPI-endpoint?

Hoe ontwerp je een systeem voor automatische inhoudsgeneratie voor Telegram-kanalen in de stijl van de kanaalauteur?

Hoe hebt u de fine-tuning van LoRA gevalideerd?

Heeft u ooit een neuraal netwerk gebruikt als maatstaf voor kwaliteitsbeoordeling?

Wanneer kiezen voor LoRA en wanneer retrieval op basis van vergelijkbare posts? Hoeveel gegevens zijn nodig voor elke aanpak?

Kunt u me vertellen over uw ervaring met RAG-systemen en wat u in uw laatste project hebt gedaan?

Welke rang heb je ingesteld voor LoRA en waar hangt het van af?

Heb je dit allemaal zelf gedaan (RAG, LoRA, werken met neurale netwerken) of heb je iemand geholpen?

In welke lagen heb je LoRA geplaatst en wat is q_proj?

Heb je neural networks op je eigen servers of in de cloud uitgerold?

Welke metrics hebt u gebruikt om de kwaliteit van het systeem te beoordelen en hoe hebt u een verbetering van 40% bereikt?

Waarom kan LoRA zelfs met een klein aantal parameters overfitten? Beïnvloedt de keuze van de rang overfitting?

Waarom is een vector database nodig in deze architectuur?