Jaké frameworky se používají pro tvorbu RAG?

Pro výstavbu Retrieval-Augmented Generation (RAG) se používá několik populárních rámců a knihoven, které pomáhají integrovat vyhledávání v databázi znalostí s generováním textu. Mezi ně patří:

• Hugging Face Transformers — poskytuje modely pro generování textu a nástroje pro integraci s externími zdroji dat.
• FAISS (Facebook AI Similarity Search) — knihovna pro efektivní vyhledávání ve vektorových reprezentacích dokumentů.
• Haystack — rámec pro vytváření systémů vyhledávání a otázek a odpovědí, podporuje přístup RAG.
• LangChain — knihovna pro vytváření řetězců zpracování dat s LLM, včetně RAG.

Obvykle je RAG postaven na kombinaci modelů generace (například GPT, BART) a systémů vyhledávání podle indexů dokumentů, implementovaných pomocí těchto rámců.