O que são EFB e GOSS no LightGBM?

No LightGBM, EFB (Exclusive Feature Bundling) e GOSS (Gradient-based One-Side Sampling) são duas técnicas de otimização que melhoram o desempenho e a velocidade de treino do modelo.

• EFB (Agrupamento Exclusivo de Características): método que combina características mutuamente exclusivas numa só, para reduzir a dimensionalidade dos dados e acelerar o treino. Por exemplo, se duas características nunca assumem valores diferentes de zero ao mesmo tempo, podem ser combinadas numa só, mantendo a informação mas reduzindo o número de características.

• GOSS (Amostragem de um lado baseada em gradiente): técnica de seleção de subconjuntos de dados para treino, onde todos os exemplos com grandes gradientes (ou seja, aqueles em que o modelo erra mais) são mantidos, e uma amostra aleatória de exemplos com pequenos gradientes é selecionada. Isto permite focar-se nos exemplos difíceis e acelerar o treino sem perda significativa de qualidade.

Ambas as técnicas ajudam o LightGBM a trabalhar de forma eficiente com grandes conjuntos de dados tabulares dispersos, melhorando a velocidade e a qualidade do boosting.