Jak ocenić jakość retrievera? Skąd wziąć kolekcję dokumentów do oceny metryk?
Machine Learning / AI
Czym jest vLLM i do czego służy?
Masz mały zestaw danych z recenzjami filmów po rosyjsku i ich binarną etykietą tonu (etykiety: 0 — negatywny, 1 — pozytywny). Twoim zadaniem jest zaimplementowanie pełnego pipeline'u w 15 minut, aby wytrenować prosty model klasyfikacji tekstu bez użycia gotowych enkoderów, takich jak BERT, i wyświetlić dokładność (accuracy) na tych danych. reviews = [ "Ten film jest po prostu niesamowity!", "Straszna gra aktorów i nudna fabuła.", "Podobało mi się każdą chwilę!", "Najgorszy film, jaki widziałem.", "Doskonała reżyseria i wspaniała historia.", "Nie do zniesienia nudno i przewidywalnie." ] labels = [1, 0, 1, 0, 1, 0]
Czym różnią się Tensor Parallel Size i Data Parallel Size w vLLM?
Czym jest RAG i jaki podstawowy problem rozwiązuje?
Jaki parametr w modelu osadzenia określa maksymalną liczbę tokenów na wejściu? Co się stanie, jeśli podasz więcej tokenów niż limit?
Jak wpływa czterokrotne zwiększenie rozmiaru batch na współczynnik uczenia się i dlaczego? Jak działa wsteczna propagacja błędu?
Opowiedz mi o sobie i swoim doświadczeniu
Czym jest model osadzenia i czym jest token?
Czym jest kwantyzacja modelu i co się dzieje z wagami podczas jej stosowania w vLLM?
Jak dane są wyciągane z bazy wektorowej na podstawie zapytania użytkownika?
Co się stanie, jeśli podasz kontekst o długości 120 000 tokenów w LLM z limitem 60 000?
Czym jest LangGraph, do czego służy, jak realizowane są rozgałęzienia i przejścia warunkowe? Czym różnią się narzędzia od węzłów?
Jak zorganizowano wyszukiwanie informacji w bazie wektorowej? Dlaczego użyto Qdrant?