Was ist ein naiver Bayes-Klassifikator?

Naive Bayes-Klassifikator ist ein einfacher probabilistischer Klassifikator, der auf der Anwendung des Bayes-Theorems basiert, mit der Annahme, dass die Merkmale unabhängig voneinander sind.

Idee:

• Berechnung der Wahrscheinlichkeit, dass ein Objekt zu einer Klasse gehört, unter Berücksichtigung der Merkmalswerte.
• Es wird angenommen, dass alle Merkmale unabhängig sind, was die Berechnungen vereinfacht.

Beispiel: Klassifizierung von E-Mails als Spam oder Nicht-Spam anhand der Wörter im Text.

Vorteile:

• Schnell und einfach umzusetzen.
• Funktioniert gut bei großen Datensätzen.

Einschränkungen:

• Die Annahme der Unabhängigkeit der Merkmale ist oft nicht erfüllt, was die Genauigkeit verringern kann.

Beispiel in Python mit sklearn:

from sklearn.naive_bayes import MultinomialNB
from sklearn.feature_extraction.text import CountVectorizer

texts = ["Spam-Nachricht", "Wichtige Besprechung", "Jetzt kaufen", "Projekt-Update"]
labels = [1, 0, 1, 0]  # 1 - Spam, 0 - kein Spam

vectorizer = CountVectorizer()
X = vectorizer.fit_transform(texts)

model = MultinomialNB()
model.fit(X, labels)

new_text = ["Kauf Besprechung"]
X_new = vectorizer.transform(new_text)
prediction = model.predict(X_new)
print(prediction)  # Gibt [1] aus - Spam