Какво е наивен байесов класификатор?

Naive Bayes класификатор е прост вероятностен класификатор, базиран на прилагането на теоремата на Байес с предположението за независимост на характеристиките.

Идея:

• Изчислява вероятността обектът да принадлежи към клас, като взема предвид стойностите на характеристиките.
• Предполага се, че всички характеристики са независими, което опростява изчисленията.

Пример: класификация на имейли като спам или не спам въз основа на думите в текста.

Предимства:

• Бърз и лесен за реализиране.
• Добре работи с големи набори от данни.

Ограничения:

• Предположението за независимост на характеристиките често не е изпълнено, което може да намали точността.

Пример в Python с sklearn:

from sklearn.naive_bayes import MultinomialNB
from sklearn.feature_extraction.text import CountVectorizer

texts = ["спам съобщение", "важна среща", "купи сега", "актуализация на проекта"]
labels = [1, 0, 1, 0]  # 1 - спам, 0 - не спам

vectorizer = CountVectorizer()
X = vectorizer.fit_transform(texts)

model = MultinomialNB()
model.fit(X, labels)

new_text = ["купи среща"]
X_new = vectorizer.transform(new_text)
prediction = model.predict(X_new)
print(prediction)  # Ще покаже [1] - спам