Что такое meta-learning (MAML)?

Meta-learning, или обучение учиться, — это подход в машинном обучении, где модель обучается быстро адаптироваться к новым задачам с минимальным количеством данных. MAML (Model-Agnostic Meta-Learning) — один из популярных алгоритмов meta-learning, который ищет такие начальные параметры модели, с которых можно быстро обучиться на новой задаче за несколько шагов градиентного спуска.

Идея MAML в том, чтобы оптимизировать параметры модели так, чтобы после нескольких итераций обучения на конкретной задаче она показывала хорошее качество. Это достигается через два уровня оптимизации: внутренний цикл — обучение на конкретной задаче, внешний цикл — обновление начальных параметров по результатам внутреннего обучения на разных задачах.

Примерно это можно представить так:

# Псевдокод MAML
for meta_iteration in range(num_meta_iterations):
    tasks = sample_tasks(batch_size)
    meta_loss = 0
    for task in tasks:
        # Копируем модель и обучаем на задаче
        adapted_params = model.parameters
        for step in range(num_inner_steps):
            loss = compute_loss(task, adapted_params)
            adapted_params = adapted_params - alpha * grad(loss, adapted_params)
        # Вычисляем потерю с адаптированными параметрами
        meta_loss += compute_loss(task, adapted_params)
    # Обновляем начальные параметры модели по суммарной потере
    model.parameters = model.parameters - beta * grad(meta_loss, model.parameters)

Таким образом, MAML позволяет моделям быстро адаптироваться к новым задачам, что особенно полезно при ограниченном количестве данных.