Sobes.tech
Middle — Senior

Mi az az agent hosszú távú memóriája, és hogyan építsük fel (összefoglalás, vektormemória)?

sobes.tech MI

Válasz az MI-től

Az ügynök hosszú távú memóriája egy olyan mechanizmus, amely az ügynök által hosszabb idő alatt összegyűjtött információk tárolására és felhasználására szolgál, hogy javítsa az interakciók minőségét és a döntéshozatalt.

Összegzés (summarization) — a nagy mennyiségű információ tömörítése rövid, de tartalmas bemutatásba. Ez segít az ügynöknek gyorsan emlékezni a kulcspontokra anélkül, hogy minden részletet tárolnia kellene.

Vektoros memória (vector memory) — az információk vektorok (pl. embeddingek) formájában történő tárolása, ami lehetővé teszi a hasonló adatok hatékony keresését és összehasonlítását a legközelebbi szomszéd módszerek segítségével.

Hogyan építsük fel a hosszú távú memóriát:

  1. Adatgyűjtés: az ügynök fontos eseményeket, párbeszédeket, tényeket ment.
  2. Feldolgozás és tömörítés: alkalmaznak összegző algoritmusokat az adatmennyiség csökkentésére.
  3. Vektorosítás: a szövegek vagy más adatok átalakítása vektorokká embedding modellek (pl. BERT, OpenAI embeddingek) segítségével.
  4. Tárolás: speciális adatbázisok (pl. Pinecone, FAISS) használata a hatékony kereséshez vektoralapú reprezentációkban.
  5. Lekérdezés: szükség esetén az ügynök keres releváns rekordokat a memóriában a hasonlóság keresésével, és ezeket használja válasz vagy döntéshozatal során.

Python példával embeddingekhez és FAISS-hez:

from sentence_transformers import SentenceTransformer
import faiss

# Modell inicializálása
model = SentenceTransformer('all-MiniLM-L6-v2')

# Példa adatok
texts = ["Ma napos az idő", "Holnap esni fog", "Jó az idő"]

# Vektorok készítése
vectors = model.encode(texts)

# FAISS index létrehozása
index = faiss.IndexFlatL2(vectors.shape[1])
index.add(vectors)

# Keresés a memóriában
query = "Milyen idő lesz holnap?"
query_vec = model.encode([query])
D, I = index.search(query_vec, k=1)
print(f"Hasonló szöveg: {texts[I[0][0]]}")

Így az ügynök hosszú távú memóriája ötvözi az összegzést a tömörségért és a vektoros memóriát a releváns információk gyors keresése érdekében.