Mis on naiivne Bayesi klassifikaator?

Naive Bayes klassifikaator on lihtne tõenäosuslik klassifikaator, mis põhineb Bayesi teoreemi rakendamisel ja eeldusel, et tunnused on omavahel sõltumatud.

Idee:

• Arvutab objekti kuuluvuse tõenäosuse klassile, võttes arvesse tunnuste väärtusi.
• Eeldatakse, et kõik tunnused on sõltumatud, mis lihtsustab arvutusi.

Näide: e-kirjade klassifitseerimine spamiks või mitte-spamiks teksti sõnade põhjal.

Eelised:

• Kiire ja lihtne rakendada.
• Hea toimiv suurte andmekogumite puhul.

Piirangud:

• Tunnuste sõltumatuse eeldus ei ole sageli täidetud, mis võib vähendada täpsust.

Python näide sklearn kasutades:

from sklearn.naive_bayes import MultinomialNB
from sklearn.feature_extraction.text import CountVectorizer

texts = ["spam sõnum", "oluline kohtumine", "osta nüüd", "projekti uuendus"]
labels = [1, 0, 1, 0]  # 1 - spam, 0 - mitte-spam

vectorizer = CountVectorizer()
X = vectorizer.fit_transform(texts)

mudel = MultinomialNB()
model.fit(X, labels)

uus_text = ["osta kohtumine"]
X_new = vectorizer.transform(uus_text)
prognoos = mudel.predict(X_new)
print(prognoos)  # Näitab [1] - spam