Was sind Meta-Features für warm-start AutoML?

Meta-Features im Kontext von warm-start AutoML sind Eigenschaften oder Statistiken, die die Eigenschaften eines bestimmten Datensatzes oder einer Aufgabe beschreiben und dazu verwendet werden, den Prozess des automatischen maschinellen Lernens zu beschleunigen und zu verbessern.

Die Idee des warm-start (Heißstart) bei AutoML besteht darin, die auf ähnlichen Aufgaben gesammelte Erfahrung zu nutzen, um bei einer neuen Aufgabe schneller gute Modelle und Hyperparameter zu finden.

Meta-Features können umfassen:

• Statistische Eigenschaften der Daten (Anzahl der Merkmale, Anzahl der Objekte, Verteilung der Klassen).
• Schwierigkeitsmetriken der Aufgabe (z.B. Rauschmaß, Korrelationen zwischen Merkmalen).
• Informationen über die Arten der Merkmale (kategorisch, numerisch).

Durch die Verwendung von Meta-Features kann das AutoML-System Anfangshyperparameter oder Modelle auswählen, die bei ähnlichen Daten gut funktioniert haben, wodurch Zeit und Ressourcen bei der Optimierung eingespart werden.

Beispiel: Wenn Meta-Features zeigen, dass die Aufgabe eine Klassifikation mit einer großen Anzahl an kategorialen Merkmalen ist, kann AutoML direkt mit Modellen beginnen, die gut mit solchen Daten funktionieren (z.B. Gradient Boosting mit Verarbeitung kategorialer Merkmale).