Quels sont les risques de l'AutoML en termes d'interprétabilité?

Les principaux risques de l'AutoML du point de vue de l'interprétabilité:

• Complexité des modèles: AutoML choisit souvent des ensembles complexes ou des modèles profonds qui sont difficiles à interpréter.
• Manque de transparence: La sélection automatique des hyperparamètres et des architectures peut conduire à des modèles dont la logique n'est pas compréhensible pour l'utilisateur.
• Problèmes d'explicabilité: Les méthodes d'interprétation standard (par exemple, SHAP, LIME) peuvent fonctionner moins bien ou être moins informatives pour les modèles créés par AutoML.
• Perte de contrôle: L'utilisateur ne comprend pas toujours pourquoi AutoML a choisi ce modèle précis, ce qui complique la confiance et le débogage.

Pour réduire les risques, il est recommandé d'utiliser AutoML avec des outils d'interprétation et de limiter la complexité des modèles si la transparence est importante.