Как да изчислим косинусната близост между въпроси?

Косинусовата сходство е мярка за сходство между два вектора, която се изчислява като косинуса на ъгъла между тях. За въпроси (например текстови) първо трябва да представите всеки въпрос като вектор (embedding), например с помощта на модели като Word2Vec, BERT или TF-IDF.

Как да изчислим косинусовата сходство:

1. Преобразувайте всеки въпрос в числов вектор.
2. Изчислете косинуса на ъгъла между двата вектора:

[ \text{cosine_similarity}(A, B) = \frac{A \cdot B}{|A| |B|} = \frac{\sum_{i=1}^n A_i B_i}{\sqrt{\sum_{i=1}^n A_i^2} \sqrt{\sum_{i=1}^n B_i^2}} ]

Пример на Python с използване на библиотеката numpy:

import numpy as np

def cosine_similarity(vec1, vec2):
    dot_product = np.dot(vec1, vec2)
    norm_a = np.linalg.norm(vec1)
    norm_b = np.linalg.norm(vec2)
    return dot_product / (norm_a * norm_b)

# Примери за вектори
q1 = np.array([1, 2, 3])
q2 = np.array([4, 5, 6])

similarity = cosine_similarity(q1, q2)
print(f"Косинусова сходство: {similarity}")

По този начин, косинусовата сходство показва колко са сходни въпросите по смисъл в пространството на ембедингите.