Какво е bootstrap?

Bootstrap е статистически метод, който се използва за оценка на разпределението на статистика (например, средна стойност, медиана, коефициент на корелация) чрез многократно случайно изтегляне на проби с връщане от оригиналните данни.

В машинното обучение bootstrap често се използва за оценка на надеждността на моделите, за създаване на доверителни интервали и в ансамбловите методи, например в случайни гори, където се създават различни подмножества от данни за обучение на отделни дървета.

Пример за прост bootstrap за оценка на средната стойност:

import numpy as np

data = np.array([1, 2, 3, 4, 5])
boot_means = []
for _ in range(1000):
    sample = np.random.choice(data, size=len(data), replace=True)
    boot_means.append(np.mean(sample))

# Оценка на средната стойност и доверителен интервал
mean_estimate = np.mean(boot_means)
conf_interval = np.percentile(boot_means, [2.5, 97.5])
print(f"Средна стойност: {mean_estimate}, 95% доверителен интервал: {conf_interval}")