Czym jest bootstrap?

Bootstrap to metoda statystyczna używana do oszacowania rozkładu statystyki (np. średniej, mediany, współczynnika korelacji) poprzez wielokrotne losowe próbki z danych źródłowych z powrotem.

W uczeniu maszynowym bootstrap jest często stosowany do oceny wiarygodności modeli, tworzenia przedziałów ufności oraz w metodach zespołowych, np. w lasach losowych, gdzie tworzone są różne podzbiory danych do trenowania poszczególnych drzew.

Przykład prostego bootstrapu do oszacowania średniej:

import numpy as np

data = np.array([1, 2, 3, 4, 5])
boot_means = []
for _ in range(1000):
    sample = np.random.choice(data, size=len(data), replace=True)
    boot_means.append(np.mean(sample))

# Oszacowanie średniej i przedziału ufności
mean_estimate = np.mean(boot_means)
conf_interval = np.percentile(boot_means, [2.5, 97.5])
print(f"Średnia: {mean_estimate}, 95% przedział ufności: {conf_interval}")