Quelles sont les approches modernes pour les données tabulaires (CatBoost, LightGBM, XGBoost, deep tabular) ?

Il existe aujourd'hui plusieurs approches principales pour travailler avec des données tabulaires:

• Gradient boosting (CatBoost, LightGBM, XGBoost): méthodes d'ensemble puissantes qui fonctionnent bien avec des caractéristiques catégoriques et numériques. CatBoost est particulièrement pratique pour les données catégoriques sans nécessiter de prétraitement complexe.

• Modèles profonds pour données tabulaires: architectures de réseaux neuronaux spécialement adaptées aux données tabulaires (par exemple, TabNet, NODE). Ils tentent d'extraire automatiquement des dépendances complexes, mais sont encore inférieurs aux modèles de boosting en qualité dans de nombreuses tâches.

• Approches hybrides: combinaison de boosting et de réseaux neuronaux, par exemple, en utilisant des embeddings de caractéristiques catégoriques issus de réseaux neuronaux dans des modèles de boosting.

Le choix de l'approche dépend de la tâche, du volume de données et des exigences en matière d'interprétabilité. Le gradient boosting reste la norme pour la plupart des tâches avec des données tabulaires.