Что такое aleatoric и epistemic uncertainty?

Aleatoric и epistemic uncertainty — два типа неопределённости в машинном обучении и статистике.

• Aleatoric uncertainty (стохастическая, внутренняя неопределённость) — связана с шумом и случайностью в данных. Она отражает вариабельность, которую невозможно устранить даже при бесконечном количестве данных. Например, измерения с ошибками или непредсказуемые факторы.

• Epistemic uncertainty (эпистемическая, неопределённость знания) — связана с недостатком знаний модели о данных или процессе. Она возникает из-за ограниченного объёма данных или неполноты модели и может быть уменьшена при сборе дополнительных данных или улучшении модели.

Пример:

• В задаче регрессии aleatoric uncertainty проявляется как разброс значений вокруг истинной функции.
• Epistemic uncertainty высока в областях пространства признаков, где мало обучающих примеров.

В байесовских моделях и Gaussian Processes эти неопределённости моделируются отдельно, что позволяет лучше оценивать надёжность предсказаний и принимать решения в условиях неопределённости.