Γιατί ένα γραμμικό μοντέλο χωρίς μετασχηματισμό χαρακτηριστικών δεν θα λύσει το πρόβλημα διαχωρισμού σημείων μέσα και έξω από έναν κύκλο;

Το γραμμικό μοντέλο δημιουργεί ένα διαχωριστικό υπερπλάνο που διαιρεί τον χώρο των χαρακτηριστικών σε δύο μέρη με μια γραμμική εξίσωση. Στην περίπτωση διαχωρισμού σημείων εντός και εκτός ενός κύκλου, τα όρια διαχωρισμού είναι μια περιφέρεια, δηλαδή μια μη γραμμική καμπύλη. Ένα γραμμικό μοντέλο χωρίς μετασχηματισμό χαρακτηριστικών δεν μπορεί να προσεγγίσει ένα τέτοιο μη γραμμικό όριο, καθώς περιορίζεται σε ευθείες γραμμές (υπερπλάνα).

Για την επίλυση αυτού του προβλήματος, είναι απαραίτητο να εισαχθούν πρόσθετα χαρακτηριστικά, π.χ., τα τετράγωνα των συντεταγμένων (x², y²), που θα επιτρέψουν στο γραμμικό μοντέλο να λειτουργεί σε έναν νέο χώρο χαρακτηριστικών, όπου το όριο θα είναι γραμμικό. Αυτό ονομάζεται μετασχηματισμός χαρακτηριστικών ή χρήση πολυωνυμικών χαρακτηριστικών.

Παράδειγμα μετασχηματισμού:

# Αρχικά χαρακτηριστικά
X = [[x, y] για x, y στα σημεία]

# Προσθέτουμε τα τετράγωνα των συντεταγμένων
X_μετασχηματισμένο = [[x, y, x**2 + y**2] για x, y στα σημεία]

# Τώρα το γραμμικό μοντέλο μπορεί να διαχωρίσει τα σημεία σύμφωνα με τον όρο x² + y² < r²