Šta je naivni Bayesov klasifikator?

Naiv Bayes klasifikator je jednostavan probabilistički klasifikator zasnovan na primeni Bayesove teoreme, sa pretpostavkom da su karakteristike nezavisne jedna od druge.

Ideja:

• Izračunava verovatnoću da objekat pripada klasi, uzimajući u obzir vrednosti karakteristika.
• Pretpostavlja da su sve karakteristike nezavisne, što pojednostavljuje proračune.

Primer: klasifikacija e-pošte kao spam ili ne-spam na osnovu reči u tekstu.

Prednosti:

• Brz i jednostavan za implementaciju.
• Dobro radi na velikim skupovima podataka.

Ograničenja:

• Pretpostavka nezavisnosti karakteristika često nije ispunjena, što može smanjiti tačnost.

Primer u Pythonu koristeći sklearn:

from sklearn.naive_bayes import MultinomialNB
from sklearn.feature_extraction.text import CountVectorizer

texts = ["spam poruka", "važan sastanak", "kupi sada", "ažuriranje projekta"]
labels = [1, 0, 1, 0]  # 1 - spam, 0 - ne-spam

vectorizer = CountVectorizer()
X = vectorizer.fit_transform(texts)

model = MultinomialNB()
model.fit(X, labels)

new_text = ["kupi sastanak"]
X_new = vectorizer.transform(new_text)
prediction = model.predict(X_new)
print(prediction)  # Prikazaće [1] - spam