Czym jest podejście BERT-as-a-reranker?

BERT-jako-ponowna-ocena — to podejście w wyszukiwaniu informacji, w którym wstępnie wytrenowany model BERT jest używany do ponownej oceny (przearanżowania) listy dokumentów uzyskanych na pierwszym etapie wyszukiwania. Najpierw tradycyjny silnik wyszukiwania (np. BM25) zwraca zestaw istotnych dokumentów dla zapytania. Następnie BERT analizuje pary zapytanie-dokument, oceniając ich istotność z uwzględnieniem kontekstu i semantyki, i przestawia dokumenty na liście, poprawiając jakość rankingu.

Takie podejście pozwala zwiększyć dokładność wyszukiwania, szczególnie dla skomplikowanych zapytań, gdzie ważny jest głęboki kontekst. Jednak wymaga to znacznych zasobów obliczeniowych, dlatego często stosuje się je tylko do ograniczonej liczby najlepszych wyników pierwszego etapu.

Przykład użycia:

from transformers import BertTokenizer, BertForSequenceClassification
import torch

tokenizer = BertTokenizer.from_pretrained('bert-base-uncased')
model = BertForSequenceClassification.from_pretrained('bert-base-uncased')

query = "zastosowania uczenia maszynowego"
documents = ["Wprowadzenie do ML", "Samouczek głębokiego uczenia", "Przepisy kulinarne"]

# Wstępne wyszukiwanie zwraca dokumenty
# Teraz BERT ocenia istotność każdego dokumentu
scores = []
for doc in documents:
    inputs = tokenizer.encode_plus(query, doc, return_tensors='pt')
    outputs = model(**inputs)
    score = outputs.logits.softmax(dim=1)[0][1].item()  # prawdopodobieństwo istotności
    scores.append((doc, score))

# Sortujemy dokumenty według wyniku malejąco
reranked = sorted(scores, key=lambda x: x[1], reverse=True)
print(reranked)