Quais são os riscos do AutoML do ponto de vista da interpretabilidade?

Principais riscos do AutoML do ponto de vista da interpretabilidade:

• Complexidade dos modelos: O AutoML frequentemente escolhe conjuntos complexos ou modelos profundos que são difíceis de interpretar.
• Falta de transparência: A seleção automática de hiperparâmetros e arquiteturas pode levar a modelos cuja lógica não é compreensível para o usuário.
• Problemas de explicabilidade: Métodos padrão de interpretação (por exemplo, SHAP, LIME) podem funcionar pior ou ser menos informativos para modelos criados pelo AutoML.
• Perda de controlo: O utilizador nem sempre entende por que o AutoML escolheu esse modelo em particular, dificultando a confiança e a depuração.

Para reduzir os riscos, recomenda-se usar o AutoML juntamente com ferramentas de interpretação e limitar a complexidade dos modelos se a transparência for importante.