Warum löst ein lineares Modell ohne Merkmalsumwandlung nicht die Aufgabe, Punkte innerhalb und außerhalb eines Kreises zu trennen?

Das lineare Modell baut eine trennende Hyperebene, die den Merkmalsraum mit einer linearen Gleichung in zwei Teile teilt. Bei der Trennung von Punkten innerhalb und außerhalb eines Kreises ist die Trennlinie ein Kreis, also eine nichtlineare Kurve. Ein lineares Modell ohne Merkmalsumwandlung kann eine solche nichtlineare Grenze nicht approximieren, da es auf Geraden (Hyperebenen) beschränkt ist.

Um dieses Problem zu lösen, müssen zusätzliche Merkmale eingeführt werden, z.B. die Quadrate der Koordinaten (x², y²), was es dem linearen Modell ermöglicht, im neuen Merkmalsraum zu arbeiten, in dem die Grenze linear ist. Dies nennt man Merkmalsumwandlung oder die Verwendung polynomialer Merkmale.

Beispiel für eine Transformation:

# Originalmerkmale
X = [[x, y] für x, y in points]

# Hinzufügen der Quadrate der Koordinaten
X_transformiert = [[x, y, x**2 + y**2] für x, y in points]

# Jetzt kann das lineare Modell die Punkte anhand der Bedingung x² + y² < r² trennen