Что хотят услышать интервьюеры:

Чаще всего логлосс напрямую связывают с логистической регрессией как с базовой моделью бинарной классификации. Также его используют как функцию потерь в нейросетях и других вероятностных классификаторах. Правильнее говорить не про один единственный алгоритм, а про класс моделей, которые оптимизируют вероятностный прогноз.

Определение:

Логлосс, или log loss, — это функция потерь для задач классификации, которая штрафует модель за уверенные, но неверные предсказания. Она сравнивает предсказанную вероятность класса с истинной меткой и тем сильнее увеличивается, чем хуже калибрована вероятность. Для бинарной классификации это стандартная целевая функция в логистической регрессии.

Пример использования:

Например, в задаче определения спама модель должна не просто сказать «спам / не спам», а выдать вероятность. Если для письма с меткой 1 модель предсказала 0.95, это хороший результат и логлосс будет мал. Если она предсказала 0.05, штраф будет большим.

from sklearn.linear_model import LogisticRegression
from sklearn.metrics import log_loss

X = [[0], [1], [2], [3]]
y = [0, 0, 1, 1]

model = LogisticRegression()
model.fit(X, y)

proba = model.predict_proba(X)[:, 1]
loss = log_loss(y, proba)

print(proba)
print(loss)

Пояснение кода:

В примере обучается логистическая регрессия на простых данных с бинарной меткой. Затем вызывается predict_proba, чтобы получить вероятности положительного класса, а не жесткие классы. После этого log_loss измеряет, насколько эти вероятности близки к истинным меткам. Чем меньше значение, тем лучше модель оценивает вероятность классов.

Ключевые моменты:

Логлосс — это функция потерь, а не алгоритм, но чаще всего с ней ассоциируют логистическую регрессию.
Используется в задачах классификации, где важны вероятности, а не только метка класса.
Сильно штрафует уверенные ошибки, поэтому хорошо подходит для обучения вероятностных моделей.
В бинарном случае связан с бинарной кросс-энтропией.
В многоклассовых задачах применяется обобщенный вариант логлосса.
Для собеседования важно разделять алгоритм, функцию потерь и метрику качества.

Как называется алгоритм, использующий логлосс?