Rešavamo problem linearne regresije, svi y > 0. Koji od navedenih algoritama mogu dati negativnu prognozu: linearna regresija, KNN, gradient boosting, drvo, slučajni šuma, neuronska mreža?

Из перечисленных алгоритмов:

• Линейная регрессия может дать отрицательное предсказание, так как это просто линейная комбинация признаков без ограничений.
• KNN (k-ближайших соседей) предсказывает среднее или медиану значений соседей, поэтому если у соседей есть отрицательные значения, может дать отрицательное предсказание. Но если все y > 0, то и предсказания будут > 0.
• Градиентный бустинг, дерево решений, случайный лес и нейросеть могут дать отрицательные предсказания, если не применять ограничений (например, активации ReLU, ограничение выхода или трансформации).

Итог: без дополнительных ограничений все перечисленные модели могут предсказывать отрицательные значения, кроме KNN, если все обучающие y > 0, тогда KNN не даст отрицательных предсказаний.

Чтобы избежать отрицательных предсказаний, можно применять:

• Трансформацию целевой переменной (например, логарифм).
• Ограничения на выход модели.
• Специальные модели, учитывающие неотрицательность.