Wat is een naïeve Bayes-classificator?

De naïeve Bayes-classificator is een eenvoudige probabilistische classifier gebaseerd op de toepassing van de Bayes-theorema, met de aanname dat de kenmerken onafhankelijk van elkaar zijn.

Idee:

• De waarschijnlijkheid berekenen dat een object tot een klasse behoort, rekening houdend met de waarden van de kenmerken.
• Er wordt aangenomen dat alle kenmerken onafhankelijk zijn, wat de berekeningen vereenvoudigt.

Voorbeeld: classificatie van e-mails als spam of niet-spam op basis van woorden in de tekst.

Voordelen:

• Snel en gemakkelijk te implementeren.
• Werkt goed met grote datasets.

Beperkingen:

• De aanname van onafhankelijkheid van kenmerken wordt vaak niet nageleefd, wat de nauwkeurigheid kan verminderen.

Voorbeeld in Python met sklearn:

from sklearn.naive_bayes import MultinomialNB
from sklearn.feature_extraction.text import CountVectorizer

texts = ["spam bericht", "belangrijke vergadering", "koop nu", "projectupdate"]
labels = [1, 0, 1, 0]  # 1 - spam, 0 - niet spam

vectorizer = CountVectorizer()
X = vectorizer.fit_transform(texts)

model = MultinomialNB()
model.fit(X, labels)

new_text = ["koop vergadering"]
X_new = vectorizer.transform(new_text)
prediction = model.predict(X_new)
print(prediction)  # Geeft [1] - spam