Какие стратегии query selection (uncertainty, diversity, expected error reduction)?

В активном обучении (active learning) стратегии выбора запросов (query selection) помогают эффективно выбирать данные для разметки, чтобы улучшить модель с минимальными затратами. Основные стратегии:

1. Uncertainty Sampling (Выбор по неуверенности) — выбираются объекты, по которым модель наиболее неуверенна. Например, для классификации это могут быть объекты с вероятностями классов близкими друг к другу. Это помогает сосредоточиться на сложных для модели примерах.

2. Diversity Sampling (Выбор по разнообразию) — выбираются объекты, которые максимально разнообразны и покрывают разные области пространства признаков. Это предотвращает избыточную разметку похожих примеров и улучшает общее покрытие данных.

3. Expected Error Reduction (Ожидаемое уменьшение ошибки) — выбираются объекты, разметка которых, по оценкам, приведёт к максимальному снижению ошибки модели. Это более сложная стратегия, требующая оценки влияния каждого примера на модель.

Пример для uncertainty sampling в классификации:

# Предположим, есть модель с методом predict_proba
probs = model.predict_proba(unlabeled_data)
# Выбираем объекты с минимальной максимальной вероятностью класса
uncertainty = 1 - np.max(probs, axis=1)
query_indices = np.argsort(uncertainty)[-batch_size:]

Таким образом, эти стратегии помогают эффективно использовать ресурсы разметки, улучшая качество модели.