Was sind monotone Einschränkungen und wozu sind sie nützlich?

Monotone Einschränkungen (monotone Beschränkungen) sind Einschränkungen, die einem Machine-Learning-Modell auferlegt werden, um sicherzustellen, dass die Vorhersagen des Modells monoton von bestimmten Merkmalen abhängen. Das heißt, wenn der Wert eines Merkmals erhöht (oder verringert) wird, sollte die Vorhersage des Modells nicht verringert (oder erhöht) werden.

Wozu ist das nützlich?

• Interpretierbarkeit: In einigen Aufgaben erfordern die Geschäftslogik oder der gesunde Menschenverstand, dass der Einfluss eines Merkmals auf die Zielvariable monoton sein sollte. Zum Beispiel sollte bei steigendem Einkommen eines Kunden die Wahrscheinlichkeit der Kreditgenehmigung nicht sinken.
• Stabilität des Modells: Monotone Einschränkungen helfen, unlogische oder unerwartete Änderungen in den Vorhersagen zu vermeiden.
• Verbesserung der Generalisierung: In einigen Fällen helfen solche Einschränkungen dem Modell, besser zu generalisieren, insbesondere bei kleinen Datenmengen.

In Boosting-Algorithmen (z.B. LightGBM, XGBoost) können monotone Einschränkungen für einzelne Merkmale festgelegt werden, damit das Modell diese Anforderungen beim Aufbau der Bäume berücksichtigt.

Beispiel für die Verwendung in LightGBM:

import lightgbm as lgb

# Festlegen der monotone Einschränkungen: 1 bedeutet monoton steigend, -1 absteigend, 0 ohne Einschränkung
monotone_constraints = [1, 0, -1]  # für drei Merkmale

params = {
    'objective': 'regression',
    'monotone_constraints': monotone_constraints
}

# Dann erstellen wir den Datensatz und trainieren das Modell mit diesen Parametern

Auf diese Weise helfen monotone Einschränkungen, Expertenwissen in das Modell einzubringen und sein Verhalten vorhersehbarer und logischer zu machen.