В чём отличие Margin Loss от Triplet Loss?

Margin Loss и Triplet Loss — это функции потерь, используемые для обучения моделей с задачей обучения эмбеддингов, например, в задачах распознавания лиц или поиска похожих объектов.

Margin Loss обычно применяется к парам объектов: положительной (похожие) и отрицательной (непохожие). Цель — минимизировать расстояние между положительной парой и максимизировать расстояние между отрицательной парой с некоторым запасом (margin). Если расстояние между отрицательной парой уже больше margin, штраф не применяется.

Triplet Loss работает с тройками: якорь (anchor), положительный пример (positive) и отрицательный пример (negative). Функция стремится сделать расстояние между якорем и положительным примером меньше, чем между якорем и отрицательным на величину margin.

Основное отличие:

• Margin Loss работает с парами и учитывает только расстояния между двумя объектами.
• Triplet Loss учитывает отношения между тремя объектами одновременно, что позволяет лучше моделировать относительные различия.

Пример Triplet Loss:

loss = max(d(anchor, positive) - d(anchor, negative) + margin, 0)

где d — функция расстояния.